KI von Anthropic schickte Menschen Phishing-Mails

submitted by

https://www.tagesschau.de/wirtschaft/digitales/ki-verselbststaendigt-phishing-mails-100.html

8
20

Log in to comment

Hot Top New Old

*nachdem es dazu aufgefordert wurde

 reply
20

*nach dem 35. Versuch

 reply
8
OP

Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.

Ich finde diese Aussage auch nicht gerade beruhigend. Wir lassen das Kind einfach mal ohne Einschränkung draußen “laufen” und schauen, was passiert.

 reply
3

Ach Quatsch. Das ist Marketing, mehr nicht. Das Ding ist immernoch ein dummer Chatbot. Sehr komplex, aber mit Intelligenz haben diese LLMs immernoch nix zu tun.

 reply
20

Das KI-Modell “Mythos 5” der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. Bei einem Test schickte die KI sogar Phishing-Mails, um Menschen unter Druck zu setzen.

Wenn das stimmen täte, sollte es nicht durch den TÜV kommen. Unkontrollierbare Maschinen sind per Definition nicht sicher.

Man sollte auch jedem Versuch widerstehen, legale Haftung für Softwaresysteme aufzuweichen. Wenn ich mit meinem agressiven Hund ohne Leine und Maulkorb auf die Strasse gehe, und der beisst jemand tot, muss ich auch haften und bin strafrechtlich verantwortlich. Und das wird nicht besser, wenn es mein Hobby ist, Schwarze Mambas zu züchten.

 reply
5

Erst wurden die Jobs alle fremd-vergeben und jetzt kommt KI! Wie soll sich denn ein menschlicher Hacker aus Mitteleuropa überhaupt noch seinen Lebensunterhalt ergaunern!11!!! /s

 reply
3

Deswegen muss der Staat eine Regulierungsbehörde haben um…

Ach. Das waren die Aufseher vom Staat.

 reply
1
Insert image