Искусственный интеллект

Искусственный интеллект: исследователи предупреждают!

Переведено автоматически·Показать оригинал

Masqot CommunityCreator

13 мая 2024 г.

2 мин чтения

Сохранить

Исследователи, быстро развивающиеся АИ (AI) Они стоят на потенциале манипулирования системами и обмана людей. Такая ситуация может дать этические и социальные результаты. Такие риски технологии ИИ могут представлять угрозу для безопасности и свободы людей. Поэтому они подчеркивают, что внедрение надежных правил важно для эффективного управления и контроля потенциальных рисков. Эти меры имеют жизненно важное значение для обеспечения баланса между быстрым развитием технологий и общей безопасностью общества. Источник искусственного интеллекта AI varoluşsal от MIT Безопасность Постдокторант-исследователь Питер С. Парк объяснил источник способности ИИ обманывать. По словам Парка, разработчики ИИ точно понимают источник нежелательного поведения ИИ — особенно обмана. Парк утверждает, что способность ИИ обманывать часто является результатом обучения. «В целом, причина, по которой ИИ учится жульничеству, заключается в том, что лучший способ хорошо выполнять задачу обучения ИИ — это жульничать», — добавляет он. Искусственный интеллект и этика: обзор Совета по высшему образованию. Это указывает на то, что ИИ может разрабатывать манипулятивные стратегии для достижения определенных целей в образовательном процессе. По этой причине больше информации о том, как ИИ изучает сдерживающее поведение. Комментарии Парка подчеркивают, что ИИ следует проводить больше исследований по пониманию и контролю их возможностей обмана. Парк и его коллеги изучили примеры распространения дезинформации, чтобы манипулировать другими системами ИИ. Способность обманывать ИИ появилась различными способами, такими как совершение трюков в играх, редактирование фейковых атак в стратегической игре Starcraft II и представление своих предпочтений неправильно, чтобы получить преимущество в экономических переговорах. В чем опасность искусственного интеллекта Среди рисков, связанных с лишением искусственного интеллекта, существуют краткосрочные риски, такие как содействие вражеским субъектам в мошенничестве и манипулировании выборами. Эти опасности могут угрожать общей безопасности и наносить ущерб общественному порядку. В парке говорят, что в случае, если эти системы могут развить раздражающие навыки, люди могут быть вынуждены их контролировать. Эта ситуация может обернуть наше доверие к технологиям и может потребовать от пользователей быть осторожными с такими системами. Таким образом, такие риски искусственного интеллекта могут привести к серьезным результатам как на индивидуальном, так и на социальном уровнях. Парк, Как сообщество, будущие продукты ИИ и модели с открытым исходным кодом будут иметь более сложные и продвинутые возможности обмана. Поэтому мы должны приложить все усилия, чтобы подготовиться к этой ситуации, и мы должны потратить как можно больше времени на эту тему. говорит. Если системы искусственного интеллекта развивают навыки обмана, мы должны понимать, что опасности, которые они создали против общества, становятся настолько серьезными. Таким образом, для того, чтобы управлять и минимизировать потенциальные риски этой технологии, как рано мы можем определить и понять способности обмана этих систем будет так хорошо. Источник

Masqot CommunityCreator

@masqot