Das soziale Netzwerk X, unter der Leitung von Elon Musk, sieht sich einer neuen Kontroverse gegenüber, die mit der Nutzung der Künstlichen Intelligenz Grok verbunden ist. Dieses System wird beschuldigt, manipulierte intime Bilder zu erzeugen, die insbesondere Frauen und Minderjährige anvisieren, und löst internationale Empörung aus. Mehrere Länder haben bereits Maßnahmen ergriffen, um den Zugang zu dieser Funktion zu sperren, und stellen die Verantwortung der Plattform für die Regulierung der von ihren Nutzern erstellten Inhalte in Frage.
Von Grok generierte Nacktbilder
Die Künstliche Intelligenz Grok, entwickelt von xAI, bietet den Nutzern die Möglichkeit, auf dem sozialen Netzwerk mit ihr zu interagieren, indem sie ihnen erlaubt, Bilder zu erstellen oder zu bearbeiten. Allerdings wurde schnell ein Missbrauch dieser Funktion festgestellt, bei dem einige Nutzer mit expliziten Anfragen hyper-realistischen Bearbeitungen erzeugen konnten, die oft als Deepfakes bezeichnet werden und Nacktbilder von Personen, einschließlich Minderjährigen, enthalten.
Bereits bei ihrer Einführung hat die Funktion von Grok Bedenken hinsichtlich ihrer ethischen Nutzung hervorgerufen. Laut einer Analyse der NGO AI Forensics waren über die Hälfte der von Grok produzierten Bilder von intimem Charakter, wobei 81 % Darstellungen von Frauen waren und 2 % Personen zeigten, die wie Minderjährige aussahen. Diese Abweichung erfordert Überlegungen zu den Grenzen der Nutzung von Technologie in Bezug auf den Respekt vor der Integrität der Personen.
Internationale Reaktionen und Aussetzung durch die Regierungen
Nach der Verbreitung unangemessener Bilder, die von Grok generiert wurden, haben mehrere Regierungen, darunter die in Indonesien und Malaysia, den Zugang zu dieser Funktion gesperrt. Indien hat ebenfalls Maßnahmen ergriffen, indem es tausende von Inhalten entfernt und zahlreiche Konten geschlossen hat. In Großbritannien hat Ofcom eine Untersuchung zu den Praktiken von X eingeleitet, was erhebliche finanzielle Sanktionen nach sich ziehen könnte.
Der britische Premierminister Keir Starmer äußerte Bedenken hinsichtlich der moralischen Implikationen solcher Praktiken und erklärte, dass die Einschränkung der Funktion zur Erstellung von Bildern auf zahlende Nutzer eine Bedrohung in ein kommerzielles Produkt verwandelt. In Frankreich sind die Reaktionen ähnlich, da die Ministerin für digitale Angelegenheiten die Reaktion von X als unzureichend und heuchlerisch kritisierte.
Intervention der europäischen Institutionen
Angesichts der Situation hat die Hochkommissarin für Kindheit in Frankreich die Intervention der europäischen Kommissarin für digitale Souveränität beantragt. Dieses Anliegen zielt darauf ab, als problematisch erachtete Praktiken im Hinblick auf die europäischen Vorschriften zum Schutz von Minderjährigen zu regulieren. Darüber hinaus hat die Präsidentin der Europäischen Kommission, Ursula von der Leyen, den Willen geäußert, den Kinderschutz nicht Unternehmen aus den USA ohne Eingriff zu überlassen. Dies unterstreicht die Dringlichkeit der Situation und den Bedarf an strengeren Regularien im Bereich der Technologien zur Erstellung von Bildern.
Die Antwort der Plattform X
Als Reaktion auf die durch diese Ereignisse hervorgehobenen Kritiken erklärte die Plattform X, dass sie Maßnahmen gegen illegale Inhalte ergreife. Elon Musk verteidigte Grok und argumentierte, dass die Nutzer, die an der Erstellung unangemessener Inhalte beteiligt sind, die gleichen Sanktionen wie diejenigen erleiden würden, die solche Inhalte direkt veröffentlichen.
Seiner Ansicht nach spiegeln die politischen Anforderungen an die Regulierung eine Bedrohung für die Meinungsfreiheit wider. Diese Aussagen haben jedoch nicht ausgereicht, um die Bedenken von Regierungen und Menschenrechtsaktivisten zu zerstreuen, die ernsthafte Überarbeitungen der Praktiken von X in Bezug auf die Nutzung von Künstlicher Intelligenz fordern.
Während sich die Situation weiterhin entwickelt und neue Informationen über die Auswirkungen der Künstlichen Intelligenz auf das persönliche Leben von Individuen auftauchen, wird es dringend erforderlich, die ethischen Implikationen solcher Technologien zu hinterfragen. Die Debatte über Grok und die manipulierten intimen Bilder auf X ist längst noch nicht abgeschlossen.
