Blog

Jul 27, 2023

Unten im Chatbot-Kaninchenbau

Steven Levy Weitere Generationen von Menschen – oder Robotern – könnten eines Tages darauf zurückblicken

Steven Levy

Weitere Generationen von Menschen – oder Robotern – könnten eines Tages auf diese Woche als Wendepunkt in der Art und Weise zurückblicken, wie Computer und Menschen interagieren. Am Montag kündigte CEO Sundar Pichai den neuen Chatbot von Google mit dem Namen Bard an, der auf dem zuvor veröffentlichten KI-Bot LaMDA basiert. (Angeblich wurde auch eine Investition von 400 Millionen US-Dollar in das große Sprachmodell-Startup Anthropic getätigt.) Einen Tag später stellte Microsoft eine neue Version der Suchmaschine Bing vor, die auf OpenAIs bahnbrechendem Hit ChatGPT basiert. In kaum mehr Zeit, als für die Beantwortung einer Anfrage benötigt wird, wurden auf künstlicher Intelligenz basierende Systeme zu einer entscheidenden Komponente der Suche, der leistungsstärksten Anwendung im Internet.

Bereiten Sie sich auf eine endlose Diskussion der Auswirkungen vor. Aber ich war bereits in dieses Kaninchenloch geraten, nachdem ich über ein weniger beachtetes Beta-Produkt nachgedacht hatte, das letzten Dezember sanft auf den Markt gebracht und vor einer Woche der Öffentlichkeit zugänglich gemacht wurde. Dabei handelt es sich um einen Chatbot namens Poe, der ausgerechnet von Quora produziert wird, einem 14 Jahre alten sozialen Netzwerk, das Nutzern hilft, Antworten auf Fragen zu finden, indem es auf das Wissen anderer Nutzer zurückgreift. Wie bei Quora selbst geben Sie Ihre Frage ein und warten auf die Antwort. Aber Poe, das angeblich für Platform for Open Exploration steht und keine Anspielung auf den Autor des Makabren ist, liefert seine Antworten mithilfe von Textgenerierungsalgorithmen wie ChatGPT und Claude von Anthropic. Da kein Mensch über die Frage nachdenken und antworten muss, erhalten Sie sofort Antworten.

Das kam mir wie ein seltsamer Dreh- und Angelpunkt für ein soziales Netzwerk vor. Aber als ich Adam D'Angelo, Mitbegründer und CEO von Quora, kontaktierte, wies er darauf hin, dass er bereits während seiner Highschool-Zeit, als er mit seinem Klassenkameraden Mark Zuckerberg an Projekten arbeitete, von den Möglichkeiten der KI begeistert war. „Das hat mich wirklich gefreut“, sagt D'Angelo, der später Zuckerbergs Startup Facebook beitrat. Als er dort 2009 seinen CTO-Posten aufgab, um Quora zu gründen, war die Verwendung anderer Personen zur Beantwortung von Fragen eine Art Ausweichlösung, da die KI dafür noch nicht weit genug fortgeschritten war. „Es war damals wirklich sehr, sehr schwierig, KI zum Laufen zu bringen“, sagt er. „Aber es gab einfach dieses riesige ungenutzte Potenzial, Menschen über das Internet mit anderen Menschen zu verbinden. Anstatt sich also Gedanken über die Schaffung dieser künstlichen Intelligenz zu machen, bevor sie fertig war, warum sollte man den Menschen nicht einfach den Zugang zu all der anderen Intelligenz ermöglichen, die es da draußen gibt?“

Es stellte sich heraus, dass es eine ziemlich gute Idee war. Während Quora nie zu einem Moloch wie Facebook wurde, hat es über 300 Millionen monatliche Nutzer, sagt D'Angelo, und Ende 2021 wurde weithin berichtet, dass das Unternehmen vor der Pandemie einen Börsengang mit einer möglichen Bewertung von 4 Milliarden US-Dollar vorbereitete. Obwohl der jüngste Werbeeinbruch dazu führte, dass Quora Ende letzten Monats einige Mitarbeiter entließ, sagt D'Angelo, dass der Dienst mehr Fragen denn je erhält und er erwartet, dass sich der schwächelnde Anzeigenmarkt erholen wird.

Aber als Vorstandsmitglied von OpenAI, dem Vorläufer von ChatGPT, sah er die dramatischen Fortschritte auf diesem Gebiet aus erster Hand und witterte eine Chance. Durch die Bereitstellung eines Frontends für mehrere Bots könnte Quora möglicherweise den Zugriff auf die Quelle des KI-Wissens vereinfachen. Ihre Konversationsantworten würden im gleichen Stil erscheinen wie die menschlichen Antworten auf Quora selbst. Also sicherte sich sein Team Zugriff auf den OpenAI-Bot und den Anthropic-Chatbot Claude – die Bedingungen verrät er nicht – und baute Poe.

Der Schritt von Quora verrät uns viel über das Ausmaß der Veränderungen, die die KI der Welt derzeit aufzwingt. Falls Ihnen die Symbolik entgangen ist, lassen Sie mich den Kopf schütteln: Ein Unternehmen, dessen Grundlage darin bestand, Menschen miteinander zu verbinden, um Wissen zu teilen, verfolgt jetzt ein Modell, bei dem Menschen sich nicht einander, sondern Robotern zuwenden ihre Antworten.

Jeremy White

Kate Knibbs

WIRED-Mitarbeiter

Stephanie McNeal

Ich versuchte es mit Poe und tippte eine Suchanfrage ein, die dem kürzlich verstorbenen und sofort betrauerten Gitarristen und Sänger der 1970er-Jahre-Band Television Tribut zollte. „Warum war Tom Verlaine ein so guter Gitarrist?“ Ich fragte. Die Antwort kam innerhalb von Sekunden.

Ich war überwältigt, wie schnell und detailliert die Antwort war. (Ich habe die gleiche Anfrage an Quora gestellt, aber nach zwei Tagen hat niemand geantwortet.) Poe zitierte Verlaines Verwendung von „dissonanten Akkorden, unkonventionellen Akkordfolgen und kompliziertem Fingerpicking“. Es wurde auch seine Verwendung von Effektpedalen hervorgehoben. Als ich mich anschließend fragte, welche Pedale er benutzte, spuckte Poe schnell eine Liste aus, in der er die Wirkung jedes einzelnen Pedals beschrieb.

Ich hatte meine Antwort bekommen und sie war korrekt. (Poe warnt davor, dass „dieser Bot möglicherweise ungenaue Aussagen macht“, ein Vorbehalt, den Menschen selten über sich selbst erwähnen.) Aber wie viele KI-Reaktionen hat es meine Fantasie nicht angeregt. Vergleichen Sie dies mit der Würdigung von Verlaine in The Guardian, der darüber sprach, wie jede Note im Lied „Spiritual“ „sich wie eine diskrete Sternschnuppe offenbart, mit einer mysteriösen Raga-ähnlichen Komplexität“. Oder der Blogbeitrag von Wilco-Gitarrist Nels Cline, der seine Wertschätzung für Verlaines Spiel mit seinen persönlichen Erinnerungen an die Begegnung mit einer seiner Inspirationen würzte.

D'Angelo stimmt bereitwillig zu, dass Poes Antworten auf viele Fragen möglicherweise unzureichend sind. Aber er glaubt auch, dass die Systeme, auf die Poe zurückgreift, dem Besten, was Menschen bieten können, immer näher kommen werden. „Beim Einsatz dieser Produkte muss man bedenken, dass es sich heute um KI handelt“, sagt er. „Aber selbst in drei Monaten wird die KI besser werden. In sechs Monaten wird sie sogar noch besser sein.“

Eine Sache, die zur Verbesserung dieser Antworten beitragen würde, wäre die Nutzung des Antwortkorpus in der Datenbank von Quora. Aber D'Angelo verspricht, dass er das nicht ohne die Erlaubnis der Macher tun wird. „Der Ausgangspunkt besteht darin, den Menschen die Möglichkeit zu geben, sich abzumelden“, sagt er. „Alles Weitere kann ausgehandelt oder darauf aufgebaut werden.“

Selbst die Erlaubnis, auf das organische Archiv von Quora zuzugreifen, hilft KI-Systemen natürlich nicht dabei, jede Frage zu beantworten. Aber er spekuliert, dass, wenn ein zukünftiger Chatbot nicht weiterkommt, der Roboter selbst das tun könnte, was Quora-Benutzer seit über einem Jahrzehnt tun: sich an einen Menschen wenden, um eine Antwort zu erhalten. „Ich erwarte nicht, dass wir jemals den Punkt erreichen, an dem die KI alles weiß. Möglicherweise kommen wir an den Punkt, an dem Sie sich an die KI wenden, und dann wird sich die KI wiederum an einige Leute wenden, um Ihre Frage besser zu verstehen oder bei der Beantwortung zu helfen.“ "

All dies stellt die Idee eines sozialen Netzwerks auf den Kopf. Poe hat ein soziales Element: Menschen können sich dafür entscheiden, ihren Austausch mit den KI-Systemen zu teilen, in einer Art Massentraining, bei dem sie lernen, wie sie diese Maschinen am besten dazu veranlassen, gute Antworten oder sogar provokative Diskussionen zu liefern. Es ist ein Schritt in Richtung unserer neuen Art der kontinuierlichen Zusammenarbeit mit KI-Modellen, die das Gegenteil von sozialen Netzwerken darstellt. Ich kann mir die Diskussionen bei Meta, D'Angelos ehemaligem Arbeitgeber, der Milliarden in KI investiert hat, nur vorstellen. Die Grundlage des ursprünglichen Facebook bestand darin, mit den tatsächlichen Personen in Ihrem Netzwerk in Kontakt zu bleiben. Egal wie gut die KI darin ist, menschenähnliche Inhalte zu generieren, es kann nicht deine Mutter oder deine Mitbewohnerin an der Uni sein.

Jeremy White

Kate Knibbs

WIRED-Mitarbeiter

Stephanie McNeal

Ich frage D'Angelo, ob die Erschaffung von Poe tatsächlich zum Untergang von Quoras ursprünglichem Modus beitragen könnte. Derzeit ist Quora führend darin, Menschen mit Fragen mit denen zu verbinden, die großartige Antworten liefern. Poe wird nur einer von zig Anwärtern darauf sein, ein Tor zu großen KI-Systemen bereitzustellen. „Ich hoffe, dass wir auch hier eine Vorreiterrolle einnehmen können“, sagt er. „Es handelt sich um einen frühen Markt, und ich hoffe, wir können den Menschen mit einem einfach zu bedienenden Produkt dabei helfen, sich darin zurechtzufinden.“

Ich vermute, dass D'Angelo, ein sehr kluger Technologiegründer, nicht das Offensichtliche sagt. Generative KI ist einer dieser haarsträubenden, gigantischen Super-Verschiebungen, die diejenigen überwältigen werden, die sie ignorieren. Es gab vielleicht einmal eine Welt, in der soziale Netzwerke die hilfreichsten Antworten lieferten. Aber wie der Rabe sagte: Nie mehr.

Adam D'Angelo lügt nicht, wenn er sagt, dass KI sein frühes Interesse geweckt hat. Vor über 20 Jahren entwickelte er als Gymnasiast im Internat Exeter ein Musikprodukt mit integrierter KI. Sein Freund, Klassenkamerad und Miterfinder war Mark Zuckerberg. Ich habe über das Projekt, eine Musik-App namens Synapse, in meinem Buch „Facebook: The Inside Story“ geschrieben.

Exeter veranstaltete in New York City einen Empfang für ankommende Studenten. Zuckerberg unterhielt sich mit einem anderen aufstrebenden Junior, einem schlaksigen Jungen mit einem ähnlich zurückhaltenden Auftreten, dessen Name Adam D'Angelo war. Wie Zuckerberg war D'Angelo ein Vorstadtbewohner, der nach dem Abschluss seiner öffentlichen Highschool auf das Tony-Internat wechselte. Sie hatten noch etwas anderes gemeinsam. Als Zuckerberg D'Angelo fragte, woran er interessiert sei, war die Antwort ein goldenes Wort: Programmierung. Zuckerberg war begeistert – keiner seiner öffentlichen Highschool-Freunde teilte seine Leidenschaft für das Bauen von Dingen am Computer, und jetzt war die erste Person, die er in Exeter traf, ihm sehr ähnlich …

Jeremy White

Kate Knibbs

WIRED-Mitarbeiter

Stephanie McNeal

Exeter-Studenten müssen vor ihrem Abschluss ein Abschlussprojekt erstellen, und Zuckerberg suchte nach einem Projekt und hörte sich Musik auf seinem Computer an, als die von ihm erstellte Wiedergabeliste nach dem Abspielen des letzten Liedes verstummte. Er engagierte D'Angelo als Partner bei der Entwicklung eines personalisierten virtuellen DJs namens Synapse. Beide waren große Fans eines Online-Musikplayers namens WinAmp und beschlossen, dass Synapse die Funktionen von WinAmp nachahmen und gleichzeitig eine personalisierte Wiedergabeliste bereitstellen würde.

Obwohl sowohl Zuckerberg als auch D'Angelo absolute Neulinge auf dem Gebiet der künstlichen Intelligenz waren, prahlten sie mit der KI in SynapseAI und nannten den Code, der die Playlist bestimmte, sogar „das Gehirn“. Synapse schlägt Ihnen Lieder vor, die auf dem basieren, was Sie zuvor gehört haben. D'Angelo, der versiertere Programmierer, konzentrierte sich auf den Aufbau des Gehirns, während Zuckerberg das Frontend erstellte … Die beiden präsentierten Synapse als ihr Abschlussprojekt und ernteten großes Lob von ihren Dozenten, die besonders von D'Angelos KI-Komponente beeindruckt waren.

Zuckerberg setzte große Hoffnungen in Synapse, das er nicht mehr nur als ein Klassenprojekt ansah, sondern als etwas, das in der Außenwelt Anklang finden könnte. D'Angelo hätte es lieber als Unterrichtsprojekt belassen und sich lieber auf sein Studium an der von ihm gewählten Hochschule, dem California Institute of Technology, konzentriert. „Caltech ist ziemlich hart – man muss arbeiten“, sagt D'Angelo. „Harvard, ehrlich gesagt, es ist nicht so viel Arbeit. Ich denke also, dass er viel mehr Zeit hatte.“

Todd fragt: „Wird die Post-Quanten-Kryptographie Y2Q zum neuen Y2K machen?“

Danke für die Frage, Todd. Bevor ich jedoch zur Antwort komme, muss ich Ihnen einen Vorwurf machen. In diesem Newsletter darf nur eine Person das Wortspiel anwenden, und das bin ich. Ich akzeptiere, dass Ihre Frage eine akzeptable Abkürzung für die Frage ist, ob Quantencomputer, die sich langsam zu mehr als nur interessanten Labordemos entwickeln, es trivial einfach machen, die kryptografischen Systeme zu knacken, die wir zum Schutz unserer Privatsphäre und unserer Transaktionen verwenden. Eine der beliebtesten Verschlüsselungsmethoden, RSA, verwendet eine mathematische Technik namens Factoring, um ihre Schlüssel zu schützen, und ein gut geplanter Angriff auf ein leistungsstarkes quantenbasiertes System würde die Zeit, die zum Knacken des Codes benötigt wird, drastisch verkürzen.

Jeremy White

Kate Knibbs

WIRED-Mitarbeiter

Stephanie McNeal

Es gibt viele Debatten darüber, ob solche Computer in den nächsten Jahren oder sogar Jahrzehnten auf den Markt kommen werden. Aber wenn es um den Schutz von Geheimnissen geht, ist es keine gute Idee, darauf zu wetten, dass es nicht zu einem plausiblen Durchbruch kommt. Bei der Kryptographie geht es darum, das Schlimmste anzunehmen und sich davor zu schützen. Deshalb wirbt das US-amerikanische National Institute of Standards and Technology seit 2016 um Kandidaten für neue, quantenresistente kryptografische Standards. Dies und andere Bemühungen in diese Richtung werden im Idealfall dazu führen, dass Y2Q, wie Sie es nennen, genauso ein Nicht-Ereignis wird wie Y2K.

Sie können Fragen an [email protected] senden. SchreibenFRAGEN SIE LEVYin der Betreffzeile.

Die NFL hat gerade ihre besten Athleten beim Touch-Football im Fernsehen übertragen. Nächstes Jahr sollten Sie das Stadion aufgeben und das Spiel auf der Straße veranstalten, mit Pausen für den Verkehr. (Zum Glück sind Tacklings im Super Bowl erlaubt. Go Birds!)

Hands-on mit der ChatGPT-erweiterten Version von Microsofts Suchmaschine Bing.

Hands-on mit ein paar Vibratoren. Finden Sie das Beste für Sie!

Jeremy White

Kate Knibbs

WIRED-Mitarbeiter

Stephanie McNeal

In der knochenbrechenden, augenerschütternden und hirnverwirrenden Welt der „nichttödlichen“ Massenkontrolltechnologie.

Wir sehen kleine Fortschritte beim Recht auf Reparatur, aber Unternehmen kämpfen immer noch gegen Gesetze, die dieses Recht einschränken würden. Ich frage mich, ob ich den Vibrator reparieren kann, ohne dass die Garantie erlischt.

Wenn Sie über Links in unseren Storys etwas kaufen, erhalten wir möglicherweise eine Provision. Dies unterstützt unseren Journalismus. Erfahren Sie mehr.