Inteligencia artificial

Inteligencia Artificial Aprendida: ¡La alerta de investigadores!

Traducido automáticamente·Ver original

Masqot CommunityCreator

13 de mayo de 2024

2 min de lectura

Guardar

Researchers, quickly developing AI (AI) Ellos están en el potencial de manipulación de sistemas y engañar a la gente. Esta situación puede dar resultados éticos y sociales. Tales riesgos de la tecnología AI pueden plantear amenazas para la seguridad y la libertad de las personas. Por consiguiente, subrayan que la aplicación de normas sólidas es importante para gestionar y controlar eficazmente los riesgos potenciales. Estas medidas son vitales para equilibrar el rápido desarrollo de la tecnología y garantizar la seguridad general de la sociedad. The Source of Artificial Intelligence AI varoluşsal de MIT Seguridad Peter S. Park, investigador postdoctoral, explicó la fuente de la capacidad de IA para engañar. Según Park, los desarrolladores de AI entienden exactamente la fuente de comportamiento AI no deseado - especialmente el engaño. Park afirma que la capacidad de IA para engañar es a menudo un resultado de entrenamiento. "En general, la razón para que AI aprenda a engañar es que la mejor manera de realizar bien en la tarea de entrenamiento de AI es engañar", añade. Inteligencia Artificial y Ética: Una revisión de la Junta de Educación Superior! Esto indica que AI puede desarrollar estrategias manipuladoras para alcanzar ciertos objetivos en el proceso educativo. Por esta razón, más información sobre cómo AI aprende los comportamientos disuasivos. Los comentarios de Park destacan que AI debe hacerse más investigación en la comprensión y control de sus capacidades de engaño. Park and colleagues examined misinformation spread examples in order to manipulate others of AI systems. La capacidad de engañar a AI ha surgido de varias maneras, como hacer trucos en juegos, editar ataques falsos en el juego de estrategia Starcraft II y representar sus preferencias incorrectamente para ganar ventaja en las negociaciones económicas. Qué clase de peligro de inteligencia artificial Entre los riesgos de privación de inteligencia artificial, existen peligros a corto plazo, como facilitar a los actores enemigos el fraude y manipular las elecciones. Estos peligros pueden amenazar la seguridad general y dañar el orden social. El parque dice que en caso de que estos sistemas puedan desarrollar habilidades molestas, la gente puede ser obligada a controlarlos. Esta situación puede envolver nuestra confianza en la tecnología y puede requerir que los usuarios tengan cuidado con esos sistemas. Por lo tanto, tales riesgos de inteligencia artificial pueden conducir a resultados serios tanto en los niveles individual como social. Park, "Como comunidad, futuros productos AI y modelos de código abierto tendrán capacidades de engaño más complejas y avanzadas. Por lo tanto, debemos hacer el mejor esfuerzo para prepararnos para esta situación y debemos pasar el mayor tiempo posible en este tema", dice. Si los sistemas "AI desarrollan las habilidades de engañar, debemos entender que los peligros que han creado contra la sociedad se están volviendo tan serios. Por lo tanto, para gestionar y minimizar los riesgos potenciales de esta tecnología, lo pronto que podemos identificar y comprender las habilidades de hacer trampa de estos sistemas será tan bueno. ” Fuente

Masqot CommunityCreator

@masqot