Dass KI-Nutzung nicht automatisch unsere bestehenden Fähigkeiten verstärkt und eigenständiges Reflektieren anregt, sondern eher einen gegenteiligen Effekt hat, fand eine kürzlich durchgeführte MIT-Studie heraus. Dort wurden Studierende in drei Gruppen eingeteilt und mussten über einen längeren Zeitraum Essays schreiben. Eine Gruppe musste die Texte ohne Hilfe verfassen, eine Gruppe durfte Googlen und die dritte Gruppe durfte ChatGPT verwenden. Währenddessen wurde bei allen Gruppen die Gehirnaktivität gemessen. Die ChatGPT-Gruppe schnitt am schlechtesten ab, was die Qualität der Essays, die sich alle gleich lasen, und die Gehirnaktivität anbelangte. Ausserdem investierte die KI-Gruppe über die Studiendauer immer weniger Zeit, bis sie am Ende die Essays nur noch über Prompts generieren liess und leichte Änderungen vornahm.

ChatGPT und Co. generieren für jeden Prompt die statistisch wahrscheinlichste Antwort auf der Basis von riesigen Trainingsdatenmengen. Dabei lernen sie die zugrunde liegenden Muster und geben Biases unhinterfragt wieder. So bezeichnete sich der von Elon Musks Firma xAI in Auftrag gegebene Chatbot Grok selbst als «MechaHitler» oder verbreitete Fake-News über einen weissen Genozid in Süd-Afrika. Den Einfluss, den biased KI auf die politischen Überzeugungen haben kann, zeigt eine Studie der Washington University: Leute, die mit einer konservativen oder liberalen KI «debattierten», übernahmen danach eher die Meinung der entsprechenden KI.

KI-Schrott – im Englischen AI-Slop – heisst das Phänomen, wenn soziale Netzwerke wie Facebook, Instagram und YouTube mit künstlich generierten Inhalten geflutet werden, die echte menschliche Inhalte marginalisieren. So fand eine Studie heraus, dass jedes vierte Video auf Tiktok KI-Inhalte enthält. Dabei entziehen die KI-generierten Inhalte nicht nur die Aufmerksamkeit von menschlichen Content-Creators, sondern erschweren auch die Einschätzung, ob eine Information, wie beispielsweise ein Video aus einem Kriegsgebiet tatsächlich echt ist oder künstlich kreiert wurde. Der Vertrauensverlust zerstört dabei die Möglichkeit eines echten Diskurses.