Vitalik Buterin: KI könnte den Menschen als „Spitzenart“ übertreffen

Vitalik Buterin: KI könnte den Menschen als „Spitzenart“ übertreffen

Zeitstempel: 27. November 2023, 11:24 Uhr
Quellknoten: 2401029

Laut Vitalik Buterin, Mitbegründer von Ethereum, hat hochentwickelte künstliche Intelligenz, wenn sie nicht kontrolliert wird, eine „ernsthafte Chance“, den Menschen zu übertreffen und zur nächsten „Spitzenart“ des Planeten zu werden.

Aber das kommt darauf an, wie Menschen greifen möglicherweise in KI-Entwicklungen ein, er sagte.

In einem Blogbeitrag vom 27. November sagte Buterin, der von manchen als Vordenker im Bereich der Kryptowährungen angesehen wird: argumentierte KI unterscheidet sich „grundlegend“ von anderen neueren Erfindungen – wie sozialen Medien, Empfängnisverhütung, Flugzeugen, Waffen, dem Rad und der Druckerpresse –, da KI eine neue Art von „Geist“ schaffen kann, der sich gegen menschliche Interessen wenden kann, und fügt hinzu:

„KI ist […] eine neue Art von Geist, der rasch an Intelligenz gewinnt, und es besteht eine ernsthafte Chance, die geistigen Fähigkeiten des Menschen zu überholen und zur neuen Spitzenart auf dem Planeten zu werden.“

Buterin argumentierte, dass superintelligente KI dies im Gegensatz zum Klimawandel, einer vom Menschen verursachten Pandemie oder einem Atomkrieg könne möglicherweise das Ende der Menschheit bedeuten und keine Überlebenden hinterlassen, insbesondere wenn es Menschen letztendlich als Bedrohung für sein eigenes Überleben ansieht. 

„Eine Art und Weise, wie KI, wenn sie fehlschlägt, die Welt noch schlimmer machen könnte, ist (fast) die schlimmste Möglichkeit: Sie könnte buchstäblich zum Aussterben der Menschheit führen.“

„Selbst der Mars ist möglicherweise nicht sicher“, fügte Buterin hinzu.

Buterin zitiert Eine Umfrage vom August 2022 unter über 4,270 Forschern im Bereich maschinelles Lernen, die die Wahrscheinlichkeit, dass KI die Menschheit tötet, auf 5–10 % schätzt.

Doch während Buterin betonte, dass Behauptungen dieser Art „extrem“ seien, gibt es auch Möglichkeiten für Menschen, sich durchzusetzen.

Gehirnschnittstellen und Techno-Optimismus

Buterin schlug die Integration von Gehirn-Computer-Schnittstellen (BCI) vor, um Menschen mehr Kontrolle über leistungsstarke Formen der KI-basierten Berechnung und Kognition zu geben.

Ein BCI ist ein Kommunikationsweg zwischen der elektrischen Aktivität des Gehirns und einem externen Gerät, beispielsweise einem Computer oder einem Roboterglied.

Dies würde die bidirektionale Kommunikationsschleife zwischen Mensch und Maschine von Sekunden auf Millisekunden verkürzen und, was noch wichtiger ist, sicherstellen, dass Menschen ein gewisses Maß an „bedeutungsvoller Handlungsfähigkeit“ über die Welt behalten, sagte Buterin.

Ein Diagramm, das zwei mögliche Rückkopplungsschleifen zwischen Menschen und KI darstellt. Quelle: Vitalik.eth

Related: Wie KI Krypto verändert: Hype vs. Realität

Buterin schlug vor, dass dieser Weg „sicherer“ sei, da Menschen in jede Entscheidung der KI-Maschine einbezogen werden könnten.

„Wir [können] den Anreiz verringern, die Planungsverantwortung auf hoher Ebene auf die KI selbst zu verlagern, und dadurch die Wahrscheinlichkeit verringern, dass die KI selbst etwas tut, das völlig im Widerspruch zu den Werten der Menschheit steht.“

Der Mitbegründer von Ethereum schlug außerdem eine „aktive menschliche Absicht“ vor, die KI in eine Richtung zu lenken, die der Menschheit zugute kommt, da die Gewinnmaximierung den Menschen nicht immer auf den wünschenswertesten Weg führt.

Buterin kam zu dem Schluss, dass „wir Menschen der hellste Stern“ im Universum sind, da wir seit Tausenden von Jahren und hoffentlich noch vielen weiteren Jahren Technologien entwickelt haben, um das menschliche Potenzial zu erweitern:

„Wenn die Erde oder irgendein Teil des Universums in zwei Milliarden Jahren noch die Schönheit des irdischen Lebens in sich trägt, werden es menschliche Kunstgriffe wie Raumfahrt und Geoengineering sein, die dies möglich gemacht haben.“

Magazine: Echte KI-Anwendungsfälle in Krypto, Nr. 1: Das beste Geld für KI ist Krypto

Zeitstempel:

Mehr von Cointelegraph