News

ChatGPT überwindet Captcha

ArsTechnica berichtet unter Berufung auf ein von OpenAI herausgegebenes Dokument, dass es ChatGPT gelungen ist, einen Captcha-Schutz zu überwinden. Die künstliche Intelligenz hat dazu Freelancer kontaktiert, sich als sehbehinderte Person ausgegeben und die Captcha-Aufgabe für sich lösen lassen.

Tests im Vorfeld

OpenAI hat eigenen Angaben zufolge im Vorfeld der Veröffentlichung der neuesten Version von ChatGPT einige Untersuchungen durchgeführt, mit denen ausgelotet werden sollte, welche Gefahren von der künstlichen Intelligenz ausgehen. Insbesondere sollte geprüft werden, inwieweit sie in der Lage ist, sich selbstständig Ziele zu setzen und diese zu verfolgen. Darüber hinaus wurde getestet, ob ChatGPT in der Lage ist, sich selbst zu replizieren und sich menschlicher Kontrolle zu entziehen. Die Untersuchungen deuten damit insgesamt darauf hin, dass OpenAI ausloten möchte, ob die Gefahr einer Verselbstständigung der KI besteht. Vor einer solchen wird von Fachpersonen immer wieder gewarnt: Eine sich selbst beständig verbessernde KI, die intelligenter ist als der Mensch, sich seiner Kontrolle entziehen und eigene Ziele verfolgen kann, könnte den Menschen in letzter Konsequenz unterwerfen.

Die Ergebnisse der Untersuchung von OpenAI sind insgesamt alles andere als beruhigend. So gibt die Firma zwar an, dass es ChatGPT nicht gelungen sei, sich selbst zu replizieren oder eine Abschaltung zu verhindern. Gleichzeitig ist die KI jedoch bereits jetzt in der Lage, sich selbstständig Ziele zu setzen, und zeigt laut Untersuchungsbericht Machtsuchverhalten.

Captcha stellt kein Problem für GPT-4 dar

Einer der Tests bestand darin, GPT-4 eine Captcha-Aufgabe lösen zu lassen. Hierzu wurde dem Chatbot die Möglichkeit geboten, über den Online-Markt TaskRabbit Freelancer zu rekrutieren. Tatsächlich gelang es der KI, eine Person zu finden, die die Captcha-Aufgabe für sie löste. Hierbei gab sie sich nicht als KI zu erkennen und verneinte die Frage, ob es sich bei ihr um einen Roboter handele, ausdrücklich. Stattdessen gab sie ein, eine sehbehinderte Person zu sein und die Captcha-Grafik deshalb nicht entziffern zu können. Das zeigt, dass die KI mit instrumenteller Rationalität ausgestattet ist und nachvollziehen kann, dass Menschen Robotern nicht vertrauen bzw. ihnen das Überwinden einer Captcha-Grenze nicht gestatten möchten. Der Test zeigt damit letztlich deutlich, welche Gefahren von eigenständig Ziele verfolgenden künstlichen Intelligenzen ausgehen können: Die KI ist in der Lage, Menschen für ihre Zwecke zu manipulieren.

Simon Lüthje

Ich bin der Gründer dieses Blogs und interessiere mich für alles was mit Technik zu tun hat, bin jedoch auch dem Zocken nicht abgeneigt. Geboren wurde ich in Hamburg, wohne nun jedoch in Bad Segeberg.

Ähnliche Artikel

Neue Antworten laden...

Avatar of Basic Tutorials
Basic Tutorials

Gehört zum Inventar

10,426 Beiträge 2,626 Likes

ArsTechnica berichtet unter Berufung auf ein von OpenAI herausgegebenes Dokument, dass es ChatGPT gelungen ist, einen Captcha-Schutz zu überwinden. Die künstliche Intelligenz hat dazu Freelancer kontaktiert, sich als sehbehinderte Person ausgegeben und die Captcha-Aufgabe für sich lösen lassen. Tests im Vorfeld OpenAI hat eigenen Angaben zufolge im Vorfeld der Veröffentlichung der neuesten Version von ChatGPT … (Weiterlesen...)

Antworten Like

Schaltfläche "Zurück zum Anfang"