Apple geht mit neuen Regeln gegen Apps vor, die künstliche Intelligenz nutzen, um unangemessene Bilder – etwa fiktive Nacktaufnahmen – zu erzeugen. Das Unternehmen kündigte die Verschärfung seiner Entwicklerrichtlinien am Wochenende an. Betroffen sind vor allem Apps, die ihre wahre Funktion bei der Prüfung durch das App-Store-Team bewusst verschleiern.

Das dahinterliegende Muster ist bekannt: Entwickler präsentieren ihre App zunächst als völlig harmloses Werkzeug. Erst nach der Freigabe werden über Updates oder serverseitige Änderungen problematische Funktionen aktiviert. Genau diese Lücke schließt die neue Regelung.

Apps mit versteckten Funktionen fliegen komplett aus dem Store

Laut Apple werden Apps, die versteckte oder undokumentierte Fähigkeiten besitzen, die in der freigegebenen Version nicht sichtbar sind, vollständig aus dem App Store entfernt. Der Konzern betont zudem die Verantwortung von Plattformen, die nutzergenerierte Inhalte und KI-Module anbieten.

appstoric

Aus der offiziellen Entwicklermitteilung geht hervor, dass solche Dienste problematische Inhalte filtern, Meldungen über belästigende Inhalte ermöglichen und die Sperrung von Accounts, die andere belästigen, erlauben müssen. Die Entwickler müssten strenge Kontrollmechanismen implementieren.

Zwei weitere Änderungen bei den rechtlichen Vorgaben

Neben der KI-Regel hat Apple auch den Abschnitt zu rechtlichen Anforderungen aktualisiert: Die Bestimmungen gegen Apps, die Menschenhandel oder Kindesmissbrauch unterstützen, wurden verschärft.

Der Schutz des App Store beschäftigt Apple bereits länger. Im vergangenen Jahr verhinderte das Unternehmen laut eigenen Angaben mehr als 150.000 Apps aus Gründen von Betrug und Missbrauch die Veröffentlichung und sperrte zudem 193.000 Entwicklerkonten.