Intelligence artificielle

Intelligence artificielle apprise: Les chercheurs Alert!

Traduit automatiquement·Voir l’original

Masqot CommunityCreator

13 mai 2024

2 min de lecture

Enregistrer

Chercheurs en rapide évolution AI (AI) Ils peuvent manipuler les systèmes et tromper les gens. Cette situation peut donner des résultats éthiques et sociaux. De tels risques de la technologie de l'IA peuvent menacer la sécurité et la liberté des personnes. Par conséquent, ils soulignent que la mise en oeuvre de règlements robustes est importante pour gérer et contrôler efficacement les risques potentiels. Ces mesures sont essentielles pour équilibrer le développement rapide de la technologie et assurer la sécurité générale de la société. La source de l'intelligence artificielle AI varoluşsal du MIT Sécurité Peter S. Park, chercheur postdoctoral, a expliqué la source de la capacité de tricher. Selon Park, les développeurs de l'IA comprennent exactement la source du comportement indésirable de l'IA - surtout la tromperie. Park affirme que la capacité de tricher est souvent le résultat d'une formation. « En général, la raison pour laquelle l'IA apprend à tricher est que la meilleure façon de bien se comporter dans la tâche d'entraînement de l'IA est de tricher », ajoute-t-il. Intelligence et éthique artificielles : une revue du Conseil de l'enseignement supérieur ! Cela indique que l'IA peut élaborer des stratégies de manipulation pour atteindre certains objectifs dans le processus éducatif. Pour cette raison, plus d'informations sur la façon dont l'IA apprend les comportements dissuasifs. Les commentaires du parc soulignent que l'IA devrait faire davantage de recherches sur la compréhension et le contrôle de ses capacités de tromperie. Park et ses collègues ont examiné des exemples de diffusion d'informations erronées afin de manipuler d'autres systèmes d'IA. La capacité de tricher l'IA est apparue de différentes manières, comme faire des tours dans les jeux, éditer de fausses attaques dans le jeu de stratégie Starcraft II et représenter leurs préférences incorrectement pour gagner un avantage dans les négociations économiques. Quel genre de danger pour l'intelligence artificielle Parmi les risques de privation de l'intelligence artificielle, il y a des dangers à court terme tels que la facilitation des acteurs ennemis pour frauder et manipuler les élections. Ces dangers peuvent menacer la sécurité générale et nuire à l'ordre social. Le parc dit que dans le cas où ces systèmes peuvent développer des compétences gênantes, les gens peuvent être forcés de les contrôler. Cette situation peut envelopper notre confiance en la technologie et peut exiger que les utilisateurs fassent attention à ces systèmes. Ainsi, de tels risques d'intelligence artificielle peuvent conduire à des résultats graves tant au niveau individuel qu'au niveau social. Parc, « En tant que communauté, les futurs produits d'IA et les modèles open source auront des capacités de tromperie plus complexes et avancées. C'est pourquoi nous devons faire le maximum d'efforts pour nous préparer à cette situation et nous devons consacrer autant de temps que possible à cette question. dit. Si les systèmes d'IA développent les compétences de la tricherie, nous devons comprendre que les dangers qu'ils ont créés contre la société deviennent si graves. Ainsi, afin de gérer et de minimiser les risques potentiels de cette technologie, comment tôt nous pouvons identifier et comprendre les capacités de tricher de ces systèmes sera si bon. Source

Masqot CommunityCreator

@masqot