KI-Pionier kündigt bei Google, um vor Risiken der KI zu warnen
Fünfzig Jahre lang hat Dr. Geoffrey Hinton die Technologie hinter Chatbots wie ChatGPT weiterentwickelt. Nun kündigt er bei Google, um vor den Folgen der Künstlichen Intelligenz zu warnen.
Geoffrey Hinton als Pionier der Künstlichen Intelligenz gehört neu zu den kritischen Stimmen dieser Technologie. Hinton hat über zehn Jahre bei Google gearbeitet und war schon lange davor eine angesehene Stimme auf dem Gebiet der KI. Nun hat er gekündigt, um sich frei über deren Risiken zu äussern. Er blickt teilweise traurig auf sein Lebenswerk zurück.
«Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es jemand anderes getan», sagt Hinton in einem ausführlichen Interview mit der New York Times. Der inzwischen 75-jährige Brite war lange von der Entwicklung und dem Einsatz von KI überzeugt. Nun ist er der Meinung, dass die rasch vorangetriebene Entwicklung der KI, die in Chatbots wie ChatGPT zu finden ist, auf grosse Gefahren zusteuert.
Hintons Werk reicht weit zurück
Bereits 1972 legt Hinton als Doktorand an der Universität Edinburgh den Grundstein zur Entwicklung von Künstlicher Intelligenz. Er forscht an neuronalen Systemen für die Erklärung und Nachbildung von Intelligenz.
2012 entwickelt er zusammen mit zwei seiner Studenten, Ilya Sutskever und Alex Krishevsky, in Toronto ein neuronales Netzwerk, das Tausende von Fotos analysieren und sich selbst beibringen kann, Objekte wie Blumen, Hunde und Autos zu erkennen. Das System führt zur Entwicklung immer leistungsfähigerer Technologien, die auch bei ChatGPT von OpenAI und Google Bard zum Einsatz kommen.
Google, OpenAI und andere Unternehmen forschen danach weiter an der Entwicklung neuronaler Netze, die aus grossen Mengen digitaler Texte lernen. Hinton sieht das grosse Potenzial dahinter. Er findet aber, der Mensch werde diesen Technologien stets voraus sein.
Das ändert sich 2022, als Google und OpenAI entwickeln, die wesentlich grössere Datenmengen nutzen. Hinton befürchtet nun, dass das, was hinter diesen Systemen vor sich geht, tatsächlich besser sein könnte als das, was im Gehirn vor sich geht. Die rasche Entwicklung der letzten fünf Jahre sieht er als extrem an. Nahezu beängstigend.
Hinton steht bis zu seiner Kündigung noch hinter Google. Er sagt, das Unternehmen habe die Technologie verantwortungsbewusst verwaltet und stets darauf geachtet, nichts anzurichten, was schaden könnte. Nun hat aber Microsoft seine Suchmaschine Bing um einen Chatbot erweitert. Damit entsteht eine grosse Konkurrenz und Google wolle nun die gleiche Art von Technologie einsetzen. Damit befänden sich die Techgiganten laut Hinton in einem Wettbewerb, der möglicherweise nicht mehr aufzuhalten sei.
Künstliche Intelligenz birgt viele Gefahren
Hintons aktuell grosse Sorge ist, dass das Internet mit falschen Fotos, Videos und Texten überflutet wird. So seien die Menschen nicht mehr in der Lage, zu erkennen, was wahr ist.
Auch der Arbeitsmarkt könne von KI-Technologien übernommen werden. Bisher sind es nur Chatbots. Künftig könnten es Anwaltsgehilfen sein, Assistenten, Übersetzer und andere Routineaufgaben. Das seien zwar immer noch eher lästige Arbeiten, aber das könne sich rasch ändern.
Problematisch seien die oft unerwarteten Verhaltensweisen, die KI-Systeme erlernen. Hinton fürchtet den Tag, an dem Einzelpersonen und Unternehmen es KI-Systemen gestatten, nicht nur eigene Computercodes zu erstellen, sondern die Codes selbst auch auszuführen. Hinton denkt inzwischen, dass solche Systeme schlauer als der Mensch werden und gar Waffen erschaffen könnten. Zu viel Science-Fiction? In einem Interview vom 1. März erklärt Hinton (ab Minute 31), seinen Gedankengang.
Viele andere Experten halten die Gefahren für hypothetisch. Hinton glaubt jedoch, durch den Wettlauf zwischen Google und Microsoft könne es rasch eskalieren. Seine Hoffnung ist, dass die führenden Wissenschaftler und Wissenschaftlerinnen der Welt zusammenarbeiten, um die Technologie global regulieren und kontrollieren zu können. Ein schwieriges Unterfangen.
Titelfoto: Shutterstock
Seit ich einen Stift halten kann, kritzel ich die Welt bunt. Dank iPad kommt auch die digitale Kunst nicht zu kurz. Daher teste ich am liebsten Tablets – für die Grafik und normale. Will ich meine Kreativität mit leichtem Gepäck ausleben, schnappe ich mir die neuesten Smartphones und knippse drauf los.