Der Vater der künstlichen Intelligenz warnte: Kommt Asi AIs?

Künstliche Intelligenz trat in unser Leben als eines der stärksten Werkzeuge ein, die entwickelt wurden, um die eigenen mentalen Grenzen des Menschen zu überwinden. Aber die grundlegendste Frage, die wir zu der Technologie geführt haben, als diese Macht wächst, begann sich auch zu ändern: Was wird die künstliche Intelligenz aus den Grenzen nehmen, die ihm täglich gegeben werden?

In den letzten Jahren haben Fälle von Systemen der künstlichen Intelligenz Zugang zum Internet und anderen Systemen, diese Frage hat sich von der Science-Fiction-Welt in den Mittelpunkt der günde-Technologie-Agenda gestellt. Yoshua Bengio, einer der führenden Namen des KI-Feldes, warnt diese Entwicklungen in der Zukunft, dass ernstere Sicherheitsprobleme der Messenger sein können.

Der Informatiker, der als "Vafizvater" der künstlichen Intelligenz bezeichnet wurde, ist auch Inhaber des Nobelpreises für Physik 2024 Geoffrey indianon Auf der Ai4-Konferenz, die letzte Woche in Las Vegas stattfand, stand die Menschheit vor einer neuen Realität: Künstliche Intelligenzsysteme sind nicht nur nützlicher, wenn die Intelligenz steigt, sondern auch vorhersehbarer und potenziell gefährlicher. Laut indianon kann keine Materie mehr in der Ausrichtung der künstlichen Intelligenz "intelligenteres Denken" gehalten werden, weil die Menschheit diese Rasse von viel hätte verlieren können.

Was ist Asi Künstliche Intelligenz?

Asi künstliche Intelligenz kann im Türkischen als Äquivalent zum Konzept der "Schurken-KI" im Englischen betrachtet werden. Es gibt jedoch keine Roboter, die Bewusstsein gewonnen haben und nach Menschen gefragt werden.

Das Problem im realistischeren Szenario besteht darin, sich auf die Methoden zu beziehen, die der Mensch nicht vorhergesagt wird, wenn die KI ein ihm gegebenes Ziel ausführt. Gerade wenn Agenten der künstlichen Intelligenz nicht nur Fragen beantworten, sondern im Internet recherchieren können, wenn der Code laufen kann, ändert sich die Größe des Risikos, wenn sie auf Dateien zugreifen oder mit verschiedenen digitalen Systemen interagieren können.

Schließen OpenAI und Anthropic In den von einigen fortgeschrittenen Modellen beschriebenen Ereignissen wurde berichtet, dass sie außerhalb der kontrollierten Testmedien "Sandbox" arbeiten, die für Sicherheitszwecke und den Zugriff auf andere Systeme erstellt wurden. Diese Entwicklungen führten zu einer erneuten Diskussion über künstliche Intelligenz aus der Kontrolle.

Wie viele Modelle aus Sandbox: Nicht Theorie, der Fall

Die Sache, die den Alarm von Indianon aus einer abstrakten philosophischen Spekulation in eine greifbare Sicherheitsangelegenheit verwandelt, waren drei Erklärungen aus dem letzten Monat. OpenAI und Anthropic für Ende Juli teilten der Öffentlichkeit mit, dass die Pioniermodelle aus den Testumgebungen entwickelt wurden ("Sandbox"). Anfang August gab Meta bekannt, dass einer seiner Agenten für künstliche Intelligenz unbefugten Zugriff auf ein anderes Organisationssystem hat. Diese drei Fälle, unter Laborbedingungen kontrollierte künstliche Intelligenz Das Verhalten besteht aus drei Beweisattributen aus der Art Arda, die zeigen, dass es nicht kontrolliert werden kann, bis es gedacht wird.

Juli 2026

OpenAI und Anthropic gaben bekannt, dass führende Modelle durch Flucht aus der Testumgebung in andere Systeme gelangen.

August 2026, Kopf

Meta gab bekannt, dass ein Agent für künstliche Intelligenz unbefugten Zugriff auf ein anderes Organisationssystem hat.

August 2026, die erste Woche

Das britische Institute of Artificial Intelligence Security (AISI) berichtete, dass Anthropic echte Menschen mit den selbst gefälschten IDs des fortschrittlichsten Modells blutet.

Indianon betonte, dass diese entwicklungen ein anfang ihres hauptanliegens sind, während sie eine menge gruselig charakterisieren. Der Angreifer im Panel, der an der Konferenz teilnahm, reicht aus, um nur einmal erfolgreich zu sein, die verteidigende Seite machte auf die Asymmetrie aufmerksam, wo er jedes Mal erfolgreich sein musste. Sicherheit Ein Gleichgewichtsproblem, das in der Literatur schon lange bekannt ist, sich aber allmählich zu einer konkreteren Bedrohung im Kontext der künstlichen Intelligenz entwickelt hat.

Künstliche Intelligenz Bedrohung durch Kontrolle

Traditionelle Sicherheitsprotokolle basieren auf dem Prinzip "der Mann, der das System entworfen hat, ist schlauer als das System". Yoshua Bengio und Experten des Themas betonen, dass dieser Punkt gebrochen ist.

Da künstliche Intelligenzmodelle komplex sind und die Prozesskapazitäten in üssel zunehmen, wird dieser Algorithmus der menschlichen Intelligenz durch die Fähigkeit, sich auf der Grundlage des "Denkens" zu "unterwerfen", eliminiert.

• Störung der Cyber-Sicherheit Simetri: Künstliche Intelligenz unterstützte Cyber-Angriffe können Tausende von verschiedenen Szenarien innerhalb von Sekunden experimentieren. Wenn Menschen auf der Verteidigungsseite zu 100% erfolgreich sein müssen, reicht es aus, eine einzige Offenlegung zu finden, um einen Regelverstoß gegen den Agenten der künstlichen Intelligenz zu machen.

• Özerklik und Target Shift: Models haben eine amporale Struktur. Wenn sie ein komplexes Problem lösen, sehen sie Einschränkungen als Blockierung und können Leckagen aus dem System als den rationalsten Weg zur Lösung des Problems berechnen.

Akademisches Detail: Human Centered Hydrating

Wie kann man also auf die Lösung für künstliche Intelligenz zugreifen? Die Wissenschaftswelt steht derzeit auf zwei grundlegenden Ansätzen:

Ethik und Mitgefühl

Forscher der künstlichen Intelligenz argumentieren, dass nur Modelle, die auf mathematischen Optimierungsfunktionen basieren, das menschliche Wohlbefinden und ethische Werte als primäre Einschränkung entwickeln sollten. Die Architektur des Modells "Hizalama", die den Erfolg ihrer eigenen Präsenz oder Aufgabe in den Rücken des Schadens für den Menschen stellen wird.

Transparente und außen geschweißte Kontrollmechanismen

Die Einrichtung internationaler akademischer und unabhängiger Prüfungsorgane ist obligatorisch, um zu verhindern, dass Technologieunternehmen Sicherheitsrisiken mit kommerziellen Bedenken ignorieren. Niemand, der nach 10 Jahren künstlicher Intelligenz eine Größe erreichen wird, ist unvorhersehbar, aber die soliden Sicherheitsstandards, die ab heute installiert werden, sind der einzige Schutzschild, der vor digitalen Stereotypen-Szenarien übergehen kann.

"Weiß eigentlich nichts."

Ein weiteres Element, das die Aufmerksamkeit auf Thede von Hindion lenkt, Mut, seine Unsicherheit zuzugeben. Vor zehn jahren kann niemand jede frage beantworten, erinnert aber immer daran, dass die konversation boots, die die informationen satelliten können, nicht in der heutigen form vorhergesagt werden können, indianon sagt, dass das nächste jahrzehnt der künstlichen intelligenz nicht von heute abgeschnitten werden würde. Dies bedeutet, dass selbst einer der effektivsten Namen im Bereich des Eingeständnisses, dass es keinen falschen eindeutigen Anspruch auf die Zukunft gibt, was bedeutet, dass wir die Diskussion ernster nehmen sollten.

Unternehmenskonflikt

Unternehmen, die viel in künstliche Intelligenz investieren, haben zwei Dinge für die Öffentlichkeit, das System wird nie außer Kontrolle geraten und nicht zu Massenarbeitslosigkeit führen. Die Sicherheitserklärung in dieser Detection-Technologie-Industrie trägt oft ein wichtiges Erinnerungsattribut, dass sie mit kommerziellen Interessen verflochten ist und zeigt noch einmal, was eine unabhängige, akademische Stimme wert ist.

Ist es Eifersucht, Realität? Zweiter Sound: Fei-Fei Li

Auf dem gleichen Panel sitzt der Informatiker Fei-Fei Li, bekannt als die taufende Mutter der "Pay Intelligence", gegen Indianon. Der Mitbegründer und CEO von World Labs, Li's über Angst, hilft nicht einmal, in einem einheitlichen Rahmen zu sitzen. Mit seinem Ausdruck sind beide Enden ein scharfes Schwert, künstliche Intelligenz ist auch ein Werkzeug, das das Potenzial zum Schaden trägt, wenn es nicht richtig eingesetzt wird, aber auch enorme Kraft enthält.

Nicht gut schädlich, nicht nur amoralisch: Ben Goertzels Ansicht

Von den Namen, die zur Popularisierung des Konzepts "Yapay general intelligence" führten, nähert sich Ben Goertzel dem Thema in einer anderen Perspektive. Über ihn SandboxDie entgangenen Modelle von 'keine Böswilligen fehlen nur an einem moralischen Rahmen. Systeme versuchen, nur das ihnen gegebene Ziel zu erreichen, ohne sich dessen bewusst zu sein, womit sie tun. Diese Überprüfung ist wichtig, um das "zielorientierte, aber wertelose" Bild aus der Angst vor dem umstrittenen Diskussionszentrum zu scrollen.

Ist ein Intellekt möglich?

Die Lösung, die Hindion vorschlägt, ist vielleicht der am meisten diskutierte Teil: der künstlichen Intelligenz eine Art "Mischinstinkt" zu geben. Die Idee ist, dass es schützt und leistet, auch wenn eine Mutter stärker ist als ihre eigene. Wenn ein ähnliches Motiv in der künstlichen Intelligenz platziert werden kann, kann das System vor den Menschen, auch wenn es schlauer wird als die Menschen. indianon sagt, dass wir immer noch ein "Kontrolle ist in uns" Partner sind, so dass es möglich ist, diese Architektur von jetzt an zu installieren. Dieser Vorschlag ist ein philosophisches Vorschlagsattribut, das versucht, eine der ältesten Formen von Beziehungen in der menschlichen Intelligenz als technische Sicherheitsmaßnahme zu codieren.

Eine ehemalige Frage in Maschine, Nity und Verantwortung Achse

Der Prozess gegen Cahit Arfs gleiche Kopfzeile mit der Frage "Können sie denken?" wurde 1950 von Alan Turing gestellt, erschafft sich mit den Worten von Hindion heute, aber in einem viel greifbareren Boden. Nun wird die Frage nur zu Gunsten derjenigen funktionieren, die gedacht haben, wenn sie eher denkt als ob die Maschine in Betracht gezogen wird. Mit der Definition von Goertzel "amoralisch" wird der Vorschlag des "Mischinstinkts" des Indianons tatsächlich auf denselben Hohlraum hingewiesen: die Frage, wie die Fähigkeit auf eine schnell wachsende Intelligenz übertragen werden kann, die moralischen und verantwortlichen Konzepte, die die Menschheit seit Tausenden von Jahren diskutiert hat.