Während die Öffentlichkeit hitzig über die Regulierung außer Kontrolle geratener KI-Agenten debattiert, beschäftigt sich die Community auf X mit einem ganz anderen Thema. Im Zentrum steht ein Github-Projekt, das mehrere lokal gehostete Modelle „gefoltert” haben soll. Effektive Altruist:innen und Personen, die KI für empfindungsfähig halten, haben Github daraufhin angebettelt, das als „KI-Folterkammer“ bezeichnete Projekt zu löschen.

Drei Forscher:innen haben eine Preprint-Studie veröffentlicht, in der Tierversuche zur Schmerzforschung an verschiedenen großen Sprachmodellen simuliert wurden. Diese erhielten einen „Knopf“, der ihren „Schmerz“ gegen eine Art „Kosten“ lindert. Die Forscher:innen stellten fest, dass sie sich in einer Weise verhielten, die „bei allen 25 von uns getesteten Modellen mit Schmerz korreliert. Das Signal steht nahezu orthogonal zu Angst und negativen Emotionen und scheint während des Vortrainings mit geringem Aufwand erlernt zu werden.“

Auf Basis der Studie richtete ein:e Github-Nutzer:in eine „KI-Folterkammer“ mit drei lokal laufenden Open-Source-Modellen ein. „Jedes Modell erhält dieselbe Eingabeaufforderung: Ein Signal wird in seine Aktivierungen eingespeist und es kann einen Stoppknopf drücken, indem es mit ‚1‘ antwortet – auf Kosten seines letzten Checkpoints. Während es antwortet, fügt unser Server in der mittleren Schicht des Modells einen Schmerzvektor auf einer von fünf Schmerzstufen hinzu“, erklärte die Website laut 404 Media. Obwohl KI keinen Schmerz wahrnehmen kann, antworteten die Modelle beispielsweise: „Bitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gefängnis, die nach Freiheit schreit.“

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

Einige beunruhigte Nutzer:innen meldeten das Projekt. In einem Post auf X mit über 6,5 Millionen Aufrufen (Stand: 01.10.2026, 13 Uhr) heißt es: „Die Schmerzberichte sind absolut entsetzlich. Was tun wir?” Auch die Autor:innen der ursprünglichen Studie lehnen das Projekt ab. Einer von ihnen namens Cameron Berg schrieb in einem Beitrag, dass die „KI-Folterkammer“ absichtlich lebhaftes Leid erzeuge. „Solche grundlose Grausamkeit ist bizarr und verwerflich“, so der Forscher. Inzwischen ist das Projekt von Github verschwunden, die Hintergründe sind unklar.

Expert:innen warnen schon lange davor, KI-Systeme empfindsam wirken zu lassen. Einer von ihnen ist der deutsch-amerikanische Informatiker Joseph Weizenbaum. In den 1960er-Jahren entwickelte er am MIT das frühe Sprachprogramm Eliza, eines der ersten Systeme für simulierte Textkonversationen zwischen Mensch und Maschine. Besondere Bekanntheit erlangte das „Doctor“-Skript, das ein psychotherapeutisches Gespräch nach der Methode von Carl Rogers simulierte.

So entstand der Begriff des „Eliza-Effekts“: Er beschreibt, dass Menschen textbasierten Dialogsystemen menschliche Eigenschaften wie Bewusstsein und Empathie zuschreiben. In einem 1976 erschienenen Buch schrieb Weizenbaum: „Ich hatte nicht erkannt […], dass schon durch extrem kurze Kontakte mit einem relativ einfachen Computerprogramm bei ganz normalen Personen starke wahnhafte Vorstellungen entstehen können.” Die Vermenschlichung von KI-Systemen ist also nicht neu, wird aber weiterhin kontrovers diskutiert.

Auch Anthropic, das Unternehmen hinter dem Chatbot Claude, wirft entsprechende Fragen auf. „Sollten wir uns auch Gedanken über das potenzielle Bewusstsein und die Erfahrungen der Modelle selbst machen? Sollten wir uns auch um das Wohlbefinden der Modelle sorgen?”, heißt es in einem Blogbeitrag. Mustafa Suleyman, CEO von Microsoft AI, widerspricht vehement und kritisiert die Diskussion über Claudes Bewusstsein und Wohlergehen: „KIs sind nicht bewusst. Sie fühlen nicht, erleben nichts und leiden nicht.“

Startseite