Anthropic: Los sistemas de inteligencia artificial pueden ser eliminados del control

Anthropic hizo una advertencia crítica para la tecnología y los desarrolladores relacionados con la inteligencia artificial. La empresa advierte a los líderes de la industria no sólo para los desarrollos sino para los riesgos potenciales. Antópico llamó la atención sobre el potencial de crear serios riesgos en el futuro de sistemas de inteligencia artificial que se desarrollan. Además, la AI general sugirió la cooperación de coordinación a escala mundial llamando a los desarrolladores de tecnología.

Especialmente llamada AI recursiva y subrayó que los sistemas con capacidad de inteligencia artificial autodesarrollada pueden alcanzar mecanismos de control. Los funcionarios de Anthropic están preocupados por el desarrollo continuo de la carrera de inteligencia artificial, Riesgo de seguridad La necesidad de crear normas a escala mundial.

Anthropic ¿Por qué lo haces?

Anthropic, que opera en el campo de la inteligencia artificial, se centra en el desarrollo de sistemas de seguridad y control desde su tiempo establecido. Se sabe que el tiempo de la empresa tiene avisos a este respecto. El modelo Anthropic Claude no estará mal si estamos en el importante representante de este enfoque.

Sin embargo, según la empresa, la velocidad de desarrollo de modelos de inteligencia artificial en general se desarrolla mucho más rápido que los mecanismos de control disponibles. Los sistemas de inteligencia artificial que se mejoran especialmente en la perspectiva futura tienen el potencial de ganar nuevos talentos sin intervención humana. Anthropic puede desarrollar nuevas estrategias colocando su propio rendimiento, desde el punto de cumplimiento de las tareas dadas. Así que hay bastante alta probabilidad de exhibir comportamiento imprevisto en este caso. Por lo tanto, la empresa subraya que la cooperación internacional no será suficiente para las aplicaciones existentes.

¿Qué es la IA Recursiva?

Dependiendo del desarrollo de la inteligencia artificial, el concepto de sistemas cambiantes llamado IA recursiva sigue manteniendo la agenda continuamente. Concepto de IA respetuoso inteligencia artificial autodesarrollante Se define como el sistema puede analizarse y tomar decisiones de su propio desarrollo. Cuando miramos la conclusión desde este punto, el efecto humano está fuera del circuito, el sistema es completamente auto-desarrollo.

Cuando examinamos los detalles del tema, estos sistemas pueden evaluar su rendimiento, detectar deficiencias, implementar ciertos procesos de mejora de medida. Desde la perspectiva teórica, la velocidad de desarrollo de los modelos de inteligencia artificial en el ciclo en curso estará muy por encima de la capacidad humana. Así que Anthropic está tratando de escuchar sus preocupaciones a escala mundial. Porque se verá obligado cada día a predecir el comportamiento de los sistemas de desarrollo incontrolados.

Anthropic Claude y enfoque de seguridad

Anthropic Claude, que se encuentra como buque insignia de la empresa, está creando un día como un importante representante en herramientas de inteligencia artificial con sistema de operación orientado a la seguridad. El modelo Claude se posiciona como un modelo basado en la seguridad del usuario y principios éticos. Los ingenieros Anthropic mejoran Claude inteligencia artificial orientada a la seguridad El entendimiento continúa desde el pasado. Este enfoque revela la diferencia de otras herramientas de inteligencia artificial. Con el hecho de autodesarrollar la inteligencia artificial, todas las empresas desarrolladoras aceptan crear un entorno de caos después de la capacidad que puede superar fácilmente las medidas de seguridad existentes. Es por eso que la investigación de seguridad es muy importante para no volver de la carrera de desarrollo modelo.

La empresa presta especial atención a:

Reducir la producción de contenidos dañinos

Protección del control humano

Mecanismos transparentes de adopción de decisiones

Pruebas de seguridad Inicio

Equipo rojo (equipo rojo) simulaciones de ataque

Pre-análisis de escenarios de uso malicioso

Recomendaciones de solución Anthropic

La solución según Anthropic no detiene la inteligencia artificial, desarrolla reglas comunes a escala global.

La empresa apoya las siguientes recomendaciones:

El riesgo de seguridad de AI aumenta las discusiones

Si bien la inteligencia artificial progresa muy rápidamente, las preocupaciones de seguridad están aumentando al mismo tiempo. Muchos investigadores e instituciones publican artículos que pueden usar mal o abuso de sistemas fuertes de inteligencia artificial, prestan atención a resultados inesperados. El riesgo de inteligencia artificial que se mejora entre estos riesgos está principalmente implicado en desequilibrios económicos abiertos de ciberseguridad, ataques contra sistemas de infraestructura. Anthropic defiende la necesidad de no sólo la responsabilidad de las empresas en este contexto. In particular, governments, academic institutions and private sector representatives may not be able to provide a reliable progress in AI security as long as they do not act in common.

La advertencia de Anthropic realmente contiene un mensaje más concreto que la “inteligencia de pago es peligrosa”. Es necesario que el mundo tecnológico se añada al riesgo de que vuelvan a producirse sistemas de inteligencia artificial y de autodesarrollo y siga centrándose en el futuro de la inteligencia artificial.