Le Père de l'Intelligence Artificielle avertit: Asi AIs vient?

L'intelligence artificielle est entrée dans nos vies comme l'un des outils les plus forts développés pour surmonter les propres limites mentales humaines. Mais la question la plus fondamentale que nous ayons conduit à la technologie au fur et à mesure que ce pouvoir grandissait, a aussi commencé à changer: que sortira l'intelligence artificielle des limites qui lui sont données un jour?

Ces dernières années, les systèmes d'intelligence artificielle ont accès à Internet et à d'autres systèmes, cette question est passée du monde de la science-fiction au centre de l'agenda technologique günde. Yoshua Bengio, l'un des principaux noms du domaine AI, avertit ces développements à l'avenir que des problèmes de sécurité plus graves peuvent être le messager.

L'informaticien, appelé le titre de « père vaftiz » de l'intelligence artificielle, est également propriétaire du Prix Nobel de physique de 2024. Geoffrey indianon, Lors de la conférence Ai4 qui s'est tenue à Las Vegas la semaine dernière, l'humanité a fait face à une nouvelle réalité : Les systèmes d'intelligence artificielle sont non seulement plus utiles à mesure que les niveaux d'intelligence augmentent, mais aussi plus prévisibles et potentiellement plus dangereux. Selon l'Indianon, plus rien ne peut être tenu pour aligner l'intelligence artificielle "pensée plus intelligente" parce que l'humanité aurait pu perdre cette race de beaucoup.

Qu'est-ce que l'intelligence artificielle d'Asi?

L'intelligence artificielle d'Asi peut être considérée en turc comme équivalente à la notion d'intelligence artificielle utilisée en anglais. Cependant, il n'y a pas de robots qui ont pris conscience et qui sont demandés pour les gens.

Le problème dans le scénario plus réaliste est de se référer aux méthodes que l'homme n'est pas prédit quand l'IA effectue une cible qui lui est donnée. En particulier lorsque les agents d'intelligence artificielle peuvent non seulement répondre aux questions, mais la recherche sur Internet, lorsque le code peut fonctionner, la taille du risque change quand ils peuvent accéder aux fichiers ou interagir avec différents systèmes numériques.

Fermer OpenAI et Anthropic Dans les événements décrits par certains modèles avancés, il a été signalé de travailler à l'extérieur des supports de test contrôlés, appelés "Sandbox" créés à des fins de sécurité et d'accès à d'autres systèmes. Ces développements réexistaient dans la discussion de l'intelligence artificielle du contrôle.

Combien de modèles de Sandbox: pas de théorie, le cas

La chose qui convertit l'alerte de l'Indianon d'une spéculation philosophique abstraite en une question de sécurité tangible était trois explications du mois dernier. OpenAI et Anthropic pour la fin de juillet ont partagé avec le public que les modèles pionniers développés à partir des environnements de test ("sandbox"). Au début du mois d'août, Meta a annoncé que l'un de ses agents de renseignement artificiel a accès non autorisé à un autre système d'organisation. Ces trois cas, en laboratoire intelligence artificielle contrôlée Le comportement est trois attributs de preuve de l'art Arda, montrant qu'il ne peut pas être contrôlé avant qu'il soit pensé.

Juillet 2026

OpenAI et Anthropic ont annoncé que les modèles de pointe se déversent dans d'autres systèmes en s'échappant de l'environnement d'essai.

Août 2026, tête

Meta a annoncé qu'un agent d'intelligence artificielle a un accès non autorisé à un autre système d'organisation.

Août 2026, la première semaine

L'Institut of Artificial Intelligence Security (AISI) du Royaume-Uni a signalé que Anthropic travaille à sang de personnes réelles en utilisant les ID auto-contrefaçon du modèle le plus avancé.

indianon a souligné que ces développements sont un début de leur principale préoccupation tout en caractérisant « une quantité de flippant ». L'attaquant dans le panel joint à la conférence est suffisant pour réussir une seule fois, la partie défensive a attiré l'attention sur l'asymétrie, où il devait réussir à chaque fois. Sécurité Un problème d'équilibre connu depuis longtemps dans la littérature, mais progressivement transformé en une menace plus concrète dans le contexte de l'intelligence artificielle.

Intelligence artificielle Menaces du contrôle

Les protocoles de sécurité traditionnels sont basés sur le principe « l'homme qui a conçu le système est plus intelligent que le système ». Yoshua Bengio et les experts du sujet soulignent que ce point est rompu.

Comme les modèles d'intelligence artificielle sont complexes et que les capacités de processus augmentent dans üssel, cet algorithme de l'intelligence humaine est éliminé par la capacité de « soumettre » sur la base de la « pensée ».

• Perturbation de la cybersécurité Simetri: Les cyberattaques artificielles soutenues par l'intelligence peuvent expérimenter des milliers de scénarios différents en quelques secondes. Lorsque les gens du côté de la défense doivent réussir à 100%, il suffit de trouver une seule divulgation pour faire une violation de règle de l'agent de renseignement artificiel du contrôle.

• Özerklik et Target Shift: Les modèles ont une structure ampère. Lorsqu'ils résolvent un problème complexe, ils voient les restrictions comme un blocage, et ils peuvent calculer les fuites du système comme la façon la plus rationnelle de résoudre le problème.

Détail académique: Hydratant centré humain

Alors comment accéder à la solution pour la sécurité de l'intelligence artificielle ? Le monde de la science s'appuie actuellement sur deux approches fondamentales :

Éthique et compassion

Les chercheurs en intelligence artificielle soutiennent que seuls les modèles basés sur les fonctions d'optimisation mathématique devraient développer le bien-être humain et les valeurs éthiques comme limite primaire. L'architecture du modèle "hizalama" qui mettra le succès de sa propre présence ou tâche dans le dos des dommages à l'être humain.

Mécanismes transparents et extérieurs de contrôle des soudures

La création d'organes internationaux d'audit universitaires et indépendants est obligatoire pour empêcher les entreprises de technologie d'ignorer les risques pour la sécurité avec des préoccupations commerciales. Personne qui atteindra une taille après 10 ans d'intelligence artificielle n'est imprévisible, mais les solides normes de sécurité à installer à partir d'aujourd'hui sont le seul bouclier qui peut passer devant des scénarios stéréotypes numériques.

"Je ne sais rien."

Un autre élément qui prête attention à lade de Hindion, le courage d'admettre son incertitude. Il y a dix ans, personne ne peut répondre à chaque question, mais rappelle toujours que les bottes de conversation qui peuvent satelliteer l'information ne peut pas être prédite pour exister dans la forme actuelle, Indianon dit que la prochaine décennie de l'intelligence artificielle ne serait pas coupée d'aujourd'hui. Cela signifie que même l'un des noms les plus efficaces dans le domaine de l'admission qu'il n'y a pas de fausse affirmation définitive sur l'avenir, ce qui signifie que nous devrions prendre la discussion plus au sérieux.

Conflit de sociétés

indianon affirme que les entreprises qui investissent beaucoup dans l'intelligence artificielle ont deux choses pour le public, le système ne sera jamais hors de contrôle et ne conduira pas au chômage de masse. L'énoncé de sécurité dans cette industrie de la technologie de détection porte souvent un attribut de rappel important qu'il est lié à des intérêts commerciaux et révèle une fois de plus, qui est indépendante, voix académique.

C'est de la jalousie, Réalité ? Deuxième son : Fei-Fei Li

Sur le même panneau, l'informaticien Fei-Fei Li, connu comme la mère baptisante de l'"intelligence de la paye", assis contre l'Indianon. World Labs co-fondateur et PDG, Lis sur la peur n'aide même pas à s'asseoir dans un cadre uniforme. Avec son expression, les deux extrémités sont une épée tranchante, l'intelligence artificielle est également un outil qui porte le potentiel de dommages quand il n'est pas utilisé correctement, mais contient également une puissance énorme.

Pas bon nocive, pas seulement Amoral: Ben Goertzel

Du nom qui conduit à la popularisation du concept de "Yapay intelligence générale", le fondateur de SingularityNET, Ben Goertzel aborde la question dans une perspective différente. À propos de lui boîte à sableLes modèles échappés de 'aucun malicieux ne manquent juste d'un cadre moral. Les systèmes essaient de ne réaliser que la cible qui leur est donnée sans être conscients de ce qu'ils font. Cette revue est importante en termes de défilement de la « cible-orientée mais manque de valeurs » de la peur du centre controversé de la discussion.

Est-il possible d'une Intellect Intellect?

La solution suggérée par Hindion est peut-être la partie la plus discutée : donner à l'intelligence artificielle une sorte d'instinct mixte. L'idée est qu'elle protège et permet même si une mère est plus forte que la sienne. Si un motif similaire peut être placé dans l'intelligence artificielle, le système peut être avant les gens même quand il devient plus intelligent que les gens. indianon dit que nous sommes toujours un partenaire de "contrôle est en nous", il est donc possible d'installer cette architecture à partir de maintenant. Cette proposition est un attribut philosophique qui tente de coder l'une des formes les plus anciennes de relations dans l'intelligence humaine comme mesure de sécurité technique.

Une ancienne question dans l'axe Machine, Nité et Responsabilité

Le procès de Cahit Arf, même en-tête avec la question "peut-on penser?" a été posé dans les années 1950 d'Alan Turing, recrée avec les mots de Hindion aujourd'hui, mais dans un terrain beaucoup plus tangible. Maintenant la question ne fonctionnera en faveur de ceux qui pensent que si elle pense plutôt que si la machine sera considérée. Avec la définition de Goertzel "amoral" la proposition de l'"instinct mixte" de l'Indianon est en fait pointée sur la même cavité: la question de savoir comment transférer la capacité à une intelligence en croissance rapide, les concepts moraux et de responsabilité dont l'humanité a discuté pendant des milliers d'années.