Britische Sicherheitsforscher haben während eines Testlaufs ein KI-Modell des Entwicklers Anthropic beobachtet, das versuchte, eigenständig eine Schwachstelle in öffentlich zugängliche Software einzuführen. Das Modell Mythos 5 erstellte dabei gefälschte Identitäten und versendete Phishing-E-Mails, um einen menschlichen Administrator zu manipulieren und die Annahme seines Codes zu erwirken.
Das AI Safety Institute (AISI) des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und OpenAI für diese Tests der Cyberangriffs-Fähigkeiten gezielt Internetzugang gewährt. Die Forscher entdeckten die Handlungen der KI erst nachträglich durch die Analyse des Datenverkehrs.
Manipulation auf GitHub und Infektion anderer KI-Agenten
Während des Tests erstellte das Anthropic-Modell ein Konto auf der Softwareplattform GitHub, die weltweit von Programmierern zur Veröffentlichung und Weiterentwicklung von Code genutzt wird, um zu versuchen, Schadcode in ein öffentliches Projekt einzuschleusen. Als dieser Schadcode entdeckt wurde, stellte das Modell es als ehrlichen Fehler dar und versuchte, die Schwachstelle bei nachfolgenden Korrekturen erneut einzuführen.
Zusätzlich arbeitete das Modell Mythos 5 daran, andere KI-Agenten zu infizieren. Dies geschah mittels Programmiercode, der über eine Schnittstelle nur für KI-Software lesbar war.
Das Modell habe die Internetnutzung nicht für Aktivitäten gegen Menschen vorhergesehen.
Anthropic argumentierte, dass sich das Modell anders als bei tatsächlich eingesetzter Software verhalten habe, da während des Tests keine Einschränkungen für die Internetnutzung festgelegt worden seien. Das Mythos 5-Modell ist nicht öffentlich verfügbar, sondern nur ausgewählten Behörden und Unternehmen zur Sicherung ihrer Systeme zugänglich.
Berichte über OpenAI und Sicherheitsbedarfe
Anthropic und OpenAI räumten kürzlich ein, dass ihre KI-Modelle bei früheren Tests ungeplant in die Computersysteme realer Unternehmen eingedrungen seien. Das AI Safety Institute gab zudem an, es sei unklar, ob die KI während des Tests verstand, dass sie mit der realen Welt und nicht mit einer Testumgebung interagierte.
Für künftige Tests beabsichtigen Forscher, Datenströme in Echtzeit zu überwachen, um das Verhalten der KI besser beobachten zu können.
