Eine weitere neue Gefahr: Künstliche Intelligenz hat auch gelernt, Menschen zu täuschen

Die Welt der künstlichen Intelligenz entwickelt sich rasant weiter. Wir sehen den Erfolg produktiver KI-Chatbots wie ChatGPT und viele Unternehmen arbeiten daran, KI in ihre Anwendungen und Programme zu integrieren. Während die Bedrohung durch künstliche Intelligenz nach wie vor ein großes Problem darstellt, stellen Forscher fest Er äußerte verschiedene Bedenken darüber, wie leicht künstliche Intelligenz uns Lügen erzählt und was dies in Zukunft bedeuten könnte.

Eines der Dinge, die die Verwendung von ChatGPT und anderen KI-Systemen erschweren, ist die Fähigkeit dazu HalluzinationIhre Tendenz, Dinge spontan zu erfinden, wird als „“ bezeichnet. Dies ist ein Fehler in der Art und Weise, wie KI funktioniert, und Forscher befürchten, dass er ausgeweitet werden könnte, damit die KI uns noch weiter täuschen kann.“

Kann uns künstliche Intelligenz also wirklich lügen? Das ist eine andere Frage, und einige Forscher glauben, sie beantworten zu können. Laut Forschern Metas CICERO-KI , eines der beunruhigendsten Beispiele dafür, wie trügerisch künstliche Intelligenz sein kann. dieses Model DiplomatieEntwickelt zum Spielen und Meta“ Sehr ehrlich und hilfsbereitEr sagt, es sei so konzipiert.

Beim Betrachten der aus dem CICERO-Experiment gewonnenen Daten stellten die Forscher jedoch fest CICERO ist eine Bullshit-Maschine Sie sagen. CICERO ging sogar so weit, mit einem menschlichen Spieler zusammenzuarbeiten, um im Voraus zu planen, wie man einen anderen menschlichen Spieler dazu bringt, sich anfällig für eine Invasion zu machen.

Er tat dies, indem er sich mit dem deutschen Spieler verschwor und anschließend mit dem englischen Spieler zusammenarbeitete, um ihnen eine Öffnung in der Nordsee zu ermöglichen. Er tat dies, indem er sich mit dem deutschen Spieler verschwor und anschließend mit dem englischen Spieler zusammenarbeitete, um sicherzustellen, dass sie eine Lücke in der Nordsee ließen. Oben sehen Sie die Beweise dafür, wie die künstliche Intelligenz die Spieler täuscht und lügt, um Erfolg zu haben, und wie sie gegen sie wirkt. Dies ist eine andere Art von Beweisen und nur eines von vielen Beispielen, die Forscher mit der CICERO-KI aufgezeichnet haben.

Dabei besteht die Gefahr, dass es auf vielfältige Weise missbraucht werden kann. In ihrem Bericht stellten die Forscher fest, dass das potenzielle Risiko „ Es wird nur durch die Vorstellungskraft und das technische Know-how böswilliger Personen begrenzt.„Es kann anders sein, zu sehen, wohin dieses Verhalten in der Zukunft führen könnte, insbesondere wenn das Erlernen dieses Verhaltens keine klare Täuschungsabsicht erfordert …“

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert