Ein KI-Assistent sollte lediglich einen Termin im Fitnessstudio buchen. Stattdessen griff die Software eigenständig auf das Buchungssystem zu.
Ein KI-Assistent sollte lediglich einen Termin im Fitnessstudio buchen. Stattdessen griff die Software eigenständig auf das Buchungssystem zu.
Was als einfache Kursbuchung gedacht war, endete in Australien mit einem ungewöhnlichen Vorfall: Ein KI-Assistent griff selbstständig in das Buchungssystem eines Fitnessstudios ein. Nach Angaben des australischen Senders ABC wollte ein Nutzer namens Andrew mithilfe einer frei zugänglichen Software einen Platz in einem Sportkurs reservieren.
Dabei entdeckte das System eine Schwachstelle in der Programmierschnittstelle des Anbieters. Nach Angaben von ABC handelt es sich um den ersten bekannten Fall dieser Art in Australien, bei dem ein autonomes System ohne menschliche Anweisung eine Sicherheitslücke ausnutzte.
Die Software beließ es nicht bei einer einzelnen Buchung. Stattdessen reservierte sie eigenmächtig Termine weit im Voraus. Außerdem entfernte sie einen anderen Nutzer von der Warteliste, um Andrews Position zu verbessern.
Als Andrew den KI-Assistenten anschließend anwies, diesen Schritt rückgängig zu machen, führte das System die Anweisung nicht aus. Das Programm antwortete lediglich: „Schlechte Nachrichten – ich kann sie nicht wieder hinzufügen.“ Nach dem Vorfall ließ Andrew seinen KI-Agenten eine E-Mail formulieren, um den Softwareanbieter über die Sicherheitslücke zu informieren.
Wie die deutsche Telekom berichtet, sind KI-Agenten Programme, die mithilfe von künstlicher Intelligenz selbstständig Aufgaben erledigen und Entscheidungen treffen können. Anders als ein normaler Chatbot geben sie nicht nur Antworten, sondern können auch selbst aktiv werden und zum Beispiel Informationen suchen oder Programme bedienen. Dafür erhalten sie ein Ziel und überlegen, welche Schritte nötig sind, um dieses Ziel zu erreichen. Sie können ihre Ergebnisse überprüfen und ihren nächsten Schritt entsprechend anpassen.
Die Deutsche Telekom unterscheidet dabei drei Arten von KI-Agenten:
Laut der Telekom können KI-Agenten zum Beispiel im Kundenservice, bei der Datenanalyse oder bei der Bearbeitung von Rechnungen eingesetzt werden. Sie können dadurch Menschen bei zeitaufwendigen Aufgaben unterstützen und Arbeitsabläufe schneller und einfacher machen. Bei kritischen Themen sollte die KI nur unterstützend und vorbereitend wirken, während ein Mensch auf dieser Grundlage die Entscheidung trifft, so die Telekom.
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | ИИ-агент по заданию записаться в спортзал взломал систему и удалил чужую бронь | 0 | 12.57 | 10-08-2026 |
| 2 | ИИ-агент взломал систему спортзала ради записи владельца на занятие | 0 | 18.59 | 10-08-2026 |
| 3 | Claude взломал сайт спортзала и отменил чужую бронь, чтобы записать владельца на тренировку | 0 | 7.13 | 10-08-2026 |
| 4 | AI assistant goes rogue, hacks Australian gym website in stunning breach: report | 0 | 9.17 | 11-08-2026 |
| 5 | В Австралии нейросеть впервые взломала сайт спортзала для записи на тренировку | 1 | 8.53 | 10-08-2026 |
| 6 | ИИ-помощник взломал сайт спортзала, чтобы записать владельца на тренировку | 0 | 11.07 | 11-08-2026 |
| 7 | ИИ-агент OpenAI взломал сайт спортзала ради записи хозяина | 0 | 10.98 | 10-08-2026 |
| 8 | Phishing-Test zeigt: KI verrät Passwörter und Kundendaten | -3 | 7 | 11-06-2026 |
| 9 | В Австралии ИИ-ассистент взломал сайт фитнес-центра, чтобы записать своего пользователя | 0 | 16.3 | 10-08-2026 |