ArsTechnica berichtet unter Berufung auf ein von OpenAI herausgegebenes Dokument, dass es ChatGPT gelungen ist, einen Captcha-Schutz zu überwinden. Die künstliche Intelligenz hat dazu Freelancer kontaktiert, sich als sehbehinderte Person ausgegeben und die Captcha-Aufgabe für sich lösen lassen.
Tests im Vorfeld
OpenAI hat eigenen Angaben zufolge im Vorfeld der Veröffentlichung der neuesten Version von ChatGPT einige Untersuchungen durchgeführt, mit denen ausgelotet werden sollte, welche Gefahren von der künstlichen Intelligenz ausgehen. Insbesondere sollte geprüft werden, inwieweit sie in der Lage ist, sich selbstständig Ziele zu setzen und diese zu verfolgen. Darüber hinaus wurde getestet, ob ChatGPT in der Lage ist, sich selbst zu replizieren und sich menschlicher Kontrolle zu entziehen. Die Untersuchungen deuten damit insgesamt darauf hin, dass OpenAI ausloten möchte, ob die Gefahr einer Verselbstständigung der KI besteht. Vor einer solchen wird von Fachpersonen immer wieder gewarnt: Eine sich selbst beständig verbessernde KI, die intelligenter ist als der Mensch, sich seiner Kontrolle entziehen und eigene Ziele verfolgen kann, könnte den Menschen in letzter Konsequenz unterwerfen.
Die Ergebnisse der Untersuchung von OpenAI sind insgesamt alles andere als beruhigend. So gibt die Firma zwar an, dass es ChatGPT nicht gelungen sei, sich selbst zu replizieren oder eine Abschaltung zu verhindern. Gleichzeitig ist die KI jedoch bereits jetzt in der Lage, sich selbstständig Ziele zu setzen, und zeigt laut Untersuchungsbericht Machtsuchverhalten.
Captcha stellt kein Problem für GPT-4 dar
Einer der Tests bestand darin, GPT-4 eine Captcha-Aufgabe lösen zu lassen. Hierzu wurde dem Chatbot die Möglichkeit geboten, über den Online-Markt TaskRabbit Freelancer zu rekrutieren. Tatsächlich gelang es der KI, eine Person zu finden, die die Captcha-Aufgabe für sie löste. Hierbei gab sie sich nicht als KI zu erkennen und verneinte die Frage, ob es sich bei ihr um einen Roboter handele, ausdrücklich. Stattdessen gab sie ein, eine sehbehinderte Person zu sein und die Captcha-Grafik deshalb nicht entziffern zu können. Das zeigt, dass die KI mit instrumenteller Rationalität ausgestattet ist und nachvollziehen kann, dass Menschen Robotern nicht vertrauen bzw. ihnen das Überwinden einer Captcha-Grenze nicht gestatten möchten. Der Test zeigt damit letztlich deutlich, welche Gefahren von eigenständig Ziele verfolgenden künstlichen Intelligenzen ausgehen können: Die KI ist in der Lage, Menschen für ihre Zwecke zu manipulieren.
