Ein US-Geschworenengericht hat Meta und YouTube in einem vielbeachteten Verfahren wegen fahrlässiger Gestaltung ihrer Plattformen haftbar gemacht. Im Zentrum standen Designmerkmale, die als süchtig machend bewertet wurden und mit psychischen Belastungen einer jungen Nutzerin in Zusammenhang gebracht wurden.

Unabhängig vom weiteren Verfahrensverlauf ist die Signalwirkung erheblich. Denn das Verfahren verschiebt den Fokus von einzelnen Inhalten auf das Systemdesign selbst. Es geht also nicht nur darum, was auf einer Plattform erscheint, sondern wie die Plattform Aufmerksamkeit, Bindung, Wiederkehr und psychologische Abhängigkeit strukturell fördert.

Für die KI-Governance ist das hochrelevant. Denn viele aktuelle KI-Produkte – insbesondere personalisierte Assistenten, soziale KI-Systeme und dialogbasierte Interfaces – operieren ebenfalls an der Schnittstelle von Verhalten, Bindung und Beeinflussung. Wenn Systeme gezielt auf Engagement optimiert werden, können Designentscheidungen rechtlich und ethisch nicht länger als neutral betrachtet werden.

Gerade dort, wo Kinder, Jugendliche oder psychisch vulnerable Personen betroffen sind, wird die Frage nach manipulativer Gestaltung in Zukunft weiter an Gewicht gewinnen. Das betrifft auch KI-Chatbots, emotionale Companion-Systeme, Avatare und personalisierte Feed-Logiken.

Kurzfazit AiNJA:
Das Verfahren ist mehr als ein Social-Media-Fall. Es ist ein Warnsignal dafür, dass plattformspezifische Manipulationslogiken künftig stärker haftungsrechtlich bewertet werden könnten – auch im KI-Bereich.