Der letzte Wunsch des Datenschutz-Champions: Institut zur Neuausrichtung der Zukunft der künstlichen Intelligenz

Gestern füllten Hunderte in Eckersleys Gemeinschaft von Freunden und Kollegen die Bänke für eine ungewöhnliche Art von Gedenkfeier in einem kirchenähnlichen Heiligtum für das Internetarchiv in San Francisco – ein Symposium mit einer Reihe von Vorträgen, die nicht nur einem Denkmal für Eckersley als a gewidmet waren Person, sondern ein Rundgang durch sein Lebenswerk. Gegenüber einem Eckersley-Schrein im hinteren Teil einer Halle, die mit seinen Schriften, seinem geliebten Rennrad und einigen Mustern seiner viktorianischen gotischen Garderobe gefüllt ist, hielten Turan, Gallagher und 10 weitere Redner Präsentationen über Eckersleys lange Liste von Beiträgen: seine Jahre des Strebens Silicon Valley hin zu besseren Schutztechniken für die Privatsphäre, sein Mitbegründer eines bahnbrechenden Projekts zur Verschlüsselung des gesamten Internets und sein neuer Lebensschwerpunkt auf der Verbesserung der Sicherheit und Ethik der künstlichen Intelligenz.

Die Veranstaltung diente auch als eine Art sanfter Start für die AOI, die Organisation, die Eckersleys Arbeit nun nach seinem Tod fortsetzen wird. Eckersley stellte sich das Institut als Inkubator und Anwendungslabor vor, das mit großen KI-Laboren zusammenarbeitet, um ein Problem anzugehen, von dem Eckersley glaubt, dass es vielleicht wichtiger ist als die Datenschutz- und Cybersicherheitsarbeit, der er seine jahrzehntelange Arbeit gewidmet hat. Karriere: Neuausrichtung der Zukunft der künstlichen Intelligenz weg von den Kräften, die Leid in der Welt verursachen, hin zu dem, was er als „menschliches Gedeihen“ bezeichnet.

„Wir müssen KI nicht nur zu dem machen, was wir sind, sondern zu dem, was wir sein wollen“, sagte Turan in seiner Rede bei der Trauerfeier, nachdem er eine Aufzeichnung des Telefonats abgespielt hatte, in dem Eckersley ihn rekrutierte. „Also könnte es uns in diese Richtung heben.“

Die Mission, die Eckersley für die AOI vorschwebte, entstand aus dem im letzten Jahrzehnt zunehmenden Bewusstsein, dass die KI unter einem „Fitnessproblem“ leidet: dass ihre Entwicklung in einem immer schnelleren Tempo voranschreitet, aber mit vereinfachenden Zielen, die nicht mit denen von übereinstimmen Gesundheit und Glück der Menschheit. Anstatt ein Paradies des Überflusses und der kreativen Unterhaltung für alle einzuläuten, glaubte Eckersley, dass die KI auf ihrem derzeitigen Kurs wahrscheinlich alle Kräfte verstärken würde, die die Welt bereits zerstören: Umweltzerstörung, Ausbeutung der Armen und grassierender Nationalismus, um nur einige zu nennen .

Das Ziel von AOI, wie von Turan und Gallagher beschrieben, besteht nicht darin, zu versuchen, den Fortschritt der KI einzudämmen, sondern ihn zu lenken Ziele weg von diesen individuellen zerstörerischen Kräften. Dies, so argumentieren sie, ist die beste Hoffnung der Menschheit, um beispielsweise superintelligente Software zu verhindern, die Menschen durch Werbung oder Propaganda einer Gehirnwäsche unterziehen kann, Unternehmen mit gottgleichen Strategien und Kräften, um den letzten Kohlenwasserstoff von der Erde zu ernten, oder automatisierte Hacking-Systeme, die in jedes Netzwerk eindringen können In der Welt, um globales Chaos zu verursachen. „KI-Ausfälle werden nicht so aussehen, als würden uns Nanobots plötzlich angreifen“, sagt Turan. „Das sind Wirtschafts- und Umweltkatastrophen, die sehr speziell aussehen werden, ähnlich wie die Dinge, die jetzt passieren.“

Gallagher, der derzeitige Geschäftsführer des AOI, behauptet, dass Eckersleys Vision für das Institut nicht die einer dem Untergang geweihten Kassandra war, sondern die eines Hirten, der die KI zu ihren utopischen Zukunftsträumen führen könnte. Er hat nie darüber nachgedacht, wie man eine Dystopie verhindern kann, sondern seine ewig optimistische Denkweise war: „Wie schaffen wir eine Utopie?“ „Was können wir tun, um eine bessere Welt zu bauen, und wie kann KI den Menschen zum Aufblühen bringen?“