Anthropic: Les systèmes d'intelligence artificielle peuvent être retirés du contrôle

Anthropic a fait un avertissement critique pour la technologie et les liens d'intelligence artificielle et les développeurs. L'entreprise met en garde les chefs de file de l'industrie non seulement pour les développements, mais aussi pour les risques potentiels. Anthtopic a attiré l'attention sur le potentiel de créer des risques sérieux dans l'avenir des systèmes d'intelligence artificielle qui se développent. En outre, l'IA générale a suggéré une coopération de coordination à l'échelle mondiale en appelant les développeurs de technologies.

Particulièrement appelée AI récursive et a souligné que les systèmes ayant une capacité d'IA auto-développée peuvent atteindre des mécanismes de contrôle. Les responsables de Anthropic sont préoccupés par le développement continu de la race de l'intelligence artificielle, Risque pour la sécurité de l'IA La nécessité de créer des normes à l'échelle mondiale.

Anthropic Pourquoi faire?

Anthropic, opérant dans le domaine de l'intelligence artificielle, se concentre sur le développement de systèmes de sécurité et de contrôle depuis sa création. L'heure de l'entreprise est connue pour avoir des avis à cet égard. Le modèle Anthropic Claude ne se trompera pas si nous sommes dans l'important représentant de cette approche.

Cependant, selon l'entreprise, la vitesse de développement des modèles d'intelligence artificielle en général se développe beaucoup plus vite que les mécanismes de contrôle disponibles. Les systèmes d'intelligence artificielle qui s'améliorent surtout dans une perspective future ont le potentiel d'acquérir de nouveaux talents sans intervention humaine. Anthropic peut développer de nouvelles stratégies en plaçant ses propres performances, du point de réaliser les tâches données. Il y a donc une très forte probabilité d'avoir un comportement imprévu dans ce cas. Par conséquent, la société souligne que la coopération internationale ne suffira pas pour les applications existantes.

Qu'est-ce que l'IA récursive?

Selon le développement de l'intelligence artificielle, le concept de changement des systèmes appelés AI récursive continue de rester à l'ordre du jour. Concept d'IA récursif intelligence artificielle autodéveloppante Il est défini comme le système peut analyser lui-même et prendre des décisions de son propre développement. Lorsque nous regardons la conclusion de ce point, l'effet humain est hors du circuit, le système est complètement auto-développement.

Lorsque nous examinons les détails du sujet, ces systèmes peuvent évaluer leur performance, détecter les lacunes, mettre en œuvre certains processus d'amélioration de l'étendue. Du point de vue théorique, la vitesse de développement des modèles d'intelligence artificielle dans le cycle en cours sera bien supérieure à la capacité humaine. Anthropic essaie donc d'entendre leurs préoccupations à l'échelle mondiale. Parce qu'il sera forcé chaque jour de prédire le comportement des systèmes en développement incontrôlés.

Anthropic Claude et approche de sécurité

Anthropic Claude, qui est situé comme un phare de l'entreprise, crée une journée en tant que représentant important dans les outils d'intelligence artificielle avec un système d'exploitation axé sur la sécurité. Le modèle Claude est positionné comme un modèle basé sur la sécurité des utilisateurs et les principes éthiques. Les ingénieurs Anthropic améliorent Claude renseignement artificiel axé sur la sécurité La compréhension se poursuit depuis le passé. Cette approche révèle la différence par rapport aux autres outils d'IA. Avec le fait d'auto-développement de l'intelligence artificielle, toutes les entreprises de développement acceptent de créer un environnement de chaos après la capacité qui peut facilement dépasser les mesures de sécurité existantes. Voilà pourquoi la recherche sur la sécurité est très importante pour ne pas revenir de la course au développement de modèles.

L'entreprise accorde une attention particulière à:

Réduire la production de contenus nocifs

Protection du contrôle humain

Mécanismes décisionnels transparents

Essais de sécurité

Simulations d'attaque de l'équipe rouge

Pré-analyse des scénarios d'utilisation malveillante

Recommandations de la solution Anthropic

La solution selon Anthropic n'arrête pas l'intelligence artificielle, développer des règles communes à l'échelle mondiale.

L'entreprise appuie les recommandations suivantes :

Le risque pour la sécurité de l'IA augmente les discussions

Bien que l'intelligence artificielle progresse très rapidement, les problèmes de sécurité augmentent en même temps. Beaucoup de chercheurs et d'établissements publient des articles qui peuvent être utilisés à tort ou à mauvais escient de systèmes puissants d'IA, prêter attention aux résultats inattendus. Le risque d'intelligence artificielle qui s'améliore parmi ces risques est principalement impliqué dans la cybersécurité ouverte, les déséquilibres économiques, les attaques contre les systèmes d'infrastructure. Anthropic défend la nécessité non seulement de la responsabilité des sociétés dans ce contexte. En particulier, les gouvernements, les établissements universitaires et les représentants du secteur privé pourraient ne pas être en mesure de fournir des progrès fiables en matière de sécurité de l'IA tant qu'ils n'agissent pas en commun.

L'avertissement de Anthropic contient en fait un message qui est plus concret que l'intelligence de paiement est dangereux. Le monde technologique doit s'ajouter au risque d'IA récursive et de systèmes auto-développés tout en continuant à se concentrer sur l'avenir de l'intelligence artificielle.