Der renommierte KI-Pionier Yoshua Bengio hat auf der One Young World Summit in Montreal vor den potenziellen Gefahren der künstlichen Intelligenz gewarnt. Er betonte die Notwendigkeit von mehr Forschung und Regulierungen, um die Risiken dieser Technologie zu mindern. Bengio äußerte Bedenken, dass die gegenwärtigen Trainingsmethoden für KI-Systeme dazu führen könnten, dass diese sich gegen die Menschheit wenden.

Wichtige Erkenntnisse

Yoshua Bengio fordert mehr Forschung und "Schutzmaßnahmen" für die sichere Entwicklung von KI.
Er warnt, dass KI-Systeme, die über menschliche Intelligenz hinausgehen, in den falschen Händen gefährlich sein könnten.
Die Konzentration von Macht in wenigen Organisationen könnte negative Auswirkungen auf die Demokratie und geopolitische Stabilität haben.
Bengio fordert Regierungen auf, klare Vorschriften für die Entwicklung und den Einsatz von KI zu erlassen.

Bengio, Professor an der Universität Montreal und Leiter des Montreal Institute for Learning Algorithms, ist bekannt für seine Beiträge zur Entwicklung des Deep Learning. Er warnte, dass einige mächtige Akteure möglicherweise ein Interesse daran haben, die Menschheit durch Maschinen zu ersetzen. "Intelligenz verleiht Macht. Wer wird diese Macht kontrollieren?" fragte er.

Er erklärte, dass Maschinen bald die meisten kognitiven Fähigkeiten von Menschen erreichen könnten, was zu einer neuen Ära der künstlichen allgemeinen Intelligenz (AGI) führen könnte. Diese Entwicklung könnte innerhalb von Jahrzehnten Realität werden, aber Bengio betonte, dass die Gesellschaft nicht ausreichend vorbereitet sei, um sicherzustellen, dass diese Systeme nicht schädlich sind.

Risiken und Herausforderungen

Machtkonzentration: Nur wenige Organisationen und Regierungen werden in der Lage sein, leistungsstarke KI-Systeme zu entwickeln, was zu einer gefährlichen Konzentration von wirtschaftlicher, politischer und militärischer Macht führen könnte.
Misinformation: Die Verbreitung von Fehlinformationen, insbesondere in Wahlzeiten, ist ein wachsendes Problem. KI könnte genutzt werden, um politische Meinungen zu manipulieren.
Regulierung: Bengio fordert eine Regulierung, die Unternehmen dazu zwingt, ihre KI-Systeme zu registrieren und für ihre Handlungen verantwortlich zu sein. Er schlägt vor, dass Regierungen kreative Lösungen finden müssen, um mit der rasanten Entwicklung der Technologie Schritt zu halten.

Bengio unterstützte ein offenes Schreiben, das im Juni veröffentlicht wurde und in dem vor den "ernsten Risiken" der fortschreitenden KI gewarnt wird. Er betonte, dass es wichtig sei, dass Regierungen und Unternehmen zusammenarbeiten, um die Öffentlichkeit zu schützen und die Entwicklung von KI in eine positive Richtung zu lenken.

Der Weg nach vorne

Bengio schloss mit einem Aufruf zur Handlung: "Wir haben die Möglichkeit, die Entwicklung der Gesellschaften und der Menschheit in eine positive Richtung zu lenken. Aber dafür brauchen wir genügend Menschen, die sowohl die Vorteile als auch die Risiken verstehen und an Lösungen arbeiten. Diese Lösungen können technologischer oder politischer Natur sein, aber wir müssen jetzt aktiv werden."