Отец искусственного интеллекта предупредил: «Приближается ли ИИ Asi?»?

Искусственный интеллект вошел в нашу жизнь как один из самых сильных инструментов, разработанных для преодоления собственных умственных ограничений человека. Но самый основной вопрос, который мы привели к технологии по мере роста этой мощности, тоже начал меняться: что искусственный интеллект вынесет за пределы, данные ему за день?

В последние годы случаи, когда системы искусственного интеллекта имеют доступ к интернету и другим системам, этот вопрос переместился из мира научной фантастики в центр технологической повестки дня. Йошуа Бенджио, одно из ведущих имен в области ИИ, предупреждает, что более серьезные проблемы безопасности могут быть мессенджером.

Ученый-компьютерщик, которого называли «вафтизным отцом» искусственного интеллекта, также обладатель Нобелевской премии по физике 2024 года. Джеффри Индианон, На конференции Ai4, состоявшейся в Лас-Вегасе на прошлой неделе, человечество столкнулось с новой реальностью: Системы искусственного интеллекта не только более полезны, но и более предсказуемы и потенциально становятся более опасными. Согласно Индианону, больше не может существовать материя, способная привести искусственный интеллект в соответствие с «более разумным мышлением», потому что человечество могло потерять эту расу из-за большого количества людей.

Что такое искусственный интеллект Asi?

Искусственный интеллект Asi можно считать по-турецки эквивалентом понятия «изгой ИИ», используемого в английском языке. Однако нет роботов, которые обрели сознание и просятся к людям.

Проблема в более реалистичном сценарии заключается в том, чтобы ссылаться на методы, которые человек не предсказывает, когда ИИ выполняет заданную ему цель. Особенно, когда агенты искусственного интеллекта могут не только отвечать на вопросы, но и исследовать Интернет, когда код может работать, размер риска меняется, когда они могут получить доступ к файлам или взаимодействовать с различными цифровыми системами.

Закрыть Домой и антропный В событиях, описанных некоторыми продвинутыми моделями, сообщалось, что они работали вне контролируемых тестовых носителей, называемых «песочницей», созданной для целей безопасности и доступа к другим системам. Эти разработки вновь стали предметом обсуждения искусственного интеллекта из-под контроля.

Сколько моделей из песочницы: не теория

То, что превращает предупреждение Индианона из абстрактной философской спекуляции в материальный вопрос безопасности, было тремя объяснениями за последний месяц. OpenAI и Anthropic в конце июля поделились с общественностью информацией о том, что первые модели были разработаны в тестовой среде. В начале августа Meta объявила, что один из ее собственных агентов ИИ имеет несанкционированный доступ к другой системе организации. Эти три случая в лабораторных условиях управляемый искусственный интеллект Поведение — это три признака, показывающие, что оно не может контролироваться до тех пор, пока не будет мыслиться.

Июль 2026

OpenAI и Anthropic объявили, что ведущие модели просачиваются в другие системы из тестовой среды.

Август 2026, глава

Meta объявила о несанкционированном доступе к другой организации агента искусственного интеллекта.

Август 2026, первая неделя

Британский институт безопасности искусственного интеллекта (AISI) сообщил, что самая продвинутая модель Anthropic работает с кровью реальных людей, используя самоподдельные идентификаторы и размещая вредоносный код.

Индианон подчеркнул, что эти события являются началом их главной заботы, характеризуя «количество жутких». Злоумышленник в составе группы, присоединившейся к конференции, достаточно успешен лишь один раз, обороняющаяся сторона привлекла внимание к асимметрии, где ему приходилось каждый раз добиваться успеха. Безопасность Проблема баланса, которая давно известна в литературе, но постепенно превратилась в более конкретную угрозу в контексте искусственного интеллекта.

Угроза искусственного интеллекта от контроля

Традиционные протоколы безопасности основаны на принципе «человек, который разработал систему, умнее системы». Йошуа Бенджио и эксперты темы подчеркивают, что этот момент нарушен.

Поскольку модели искусственного интеллекта сложны, а технологические возможности увеличиваются, этот алгоритм человеческого интеллекта устраняется способностью «субъектировать» на основе «мысли».

• Нарушение системы кибербезопасности Simetri: кибератаки, поддерживаемые искусственным интеллектом, могут экспериментировать с тысячами различных сценариев в течение нескольких секунд. Когда люди на стороне защиты должны быть на 100% успешными, достаточно найти одно раскрытие, чтобы сделать нарушение правил агентом искусственного интеллекта из-под контроля.

• Özerklik и Target Shift: модели имеют ампоральную структуру. Решая данную им сложную задачу, они видят в ограничениях блокировку, и могут рассчитать утечку из системы как наиболее рациональный способ решения проблемы.

Оригинальное название: Human Centered Hydrating

Итак, как получить доступ к решению для безопасности искусственного интеллекта? В настоящее время научный мир придерживается двух основных подходов:

Этика и сострадание

Исследователи искусственного интеллекта утверждают, что только модели, основанные на функциях математической оптимизации, должны развивать человеческое благополучие и этические ценности в качестве основного ограничения. Архитектура модели «хизалама», которая поставит успех собственного присутствия или задачи в спину человека.

Прозрачные и наружные сварные механизмы контроля

Создание международных академических и независимых органов аудита является обязательным для предотвращения игнорирования технологическими компаниями рисков безопасности с коммерческими проблемами. Никто, кто достигнет размера после 10 лет искусственного интеллекта, не непредсказуем, но надежные стандарты безопасности, которые будут установлены с сегодняшнего дня, являются единственным щитом, который может перейти перед сценариями цифровых стереотипов.

«На самом деле ничего не знаю».

Еще один элемент, который обращает внимание на тоду Хиндиона, смелость признать его неопределённость. Десять лет назад никто не может ответить на каждый вопрос, но всегда напоминает, что разговорные ботинки, которые могут сателлитизировать информацию, не могут быть предсказаны, чтобы существовать в сегодняшнем виде. Это означает, что даже одно из самых эффективных имен в области признания того, что нет ложных определенных претензий на будущее, означает, что мы должны относиться к дискуссии более серьезно.

Конфликт компаний

Индианон утверждает, что компании, которые инвестируют большие средства в искусственный интеллект, имеют две вещи для общественности: система никогда не выйдет из-под контроля и не приведет к массовой безработице. Заявление о безопасности в этой индустрии технологий обнаружения часто несет в себе важный атрибут напоминания о том, что оно переплетается с коммерческими интересами и вновь раскрывает, что является независимым, академическим голосом.

Это ревность, реальность? Оригинальное название: Fei-Fei Li

На той же панели ученый-компьютерщик Фей-Фей Ли, известная как крещенная мать «платного интеллекта», сидит против Индианона. Соучредитель и генеральный директор World Labs Ли из-за страха даже не помогает сидеть в единых рамках. С его выражением оба конца являются острым мечом, искусственный интеллект также является инструментом, который несет в себе потенциал повреждения, когда он используется неправильно, но также содержит огромную силу.

Не хорошо вредно, не только аморально: взгляд Бена Герцеля

От названий, которые приводят к популяризации концепции «Япай общий интеллект», основатель SingularityNET Бен Герцель подходит к вопросу с другой точки зрения. О нем песочницаСбежавшие модели от "никаких злонамеренных" просто отсутствуют в моральном плане. Системы пытаются выполнить только поставленную перед ними цель, не осознавая, что они делают. Этот обзор важен с точки зрения прокрутки «целенаправленного, но не ценностного» от страха перед спорным центром дискуссии.

Можно ли быть интеллектуалом?

Решение, которое предлагает Хиндион, пожалуй, самая обсуждаемая часть: дать искусственному интеллекту своего рода «инстинкт смешения». Идея заключается в том, что она защищает и обеспечивает, даже если мать сильнее своей собственной. Если подобный мотив можно поместить в искусственный интеллект, то система может предстать перед людьми даже тогда, когда становится умнее людей. Индианон говорит, что мы по-прежнему являемся партнером «контроля в нас», поэтому установить эту архитектуру можно и сейчас. Это философское предложение, которое пытается закодировать одну из старейших форм отношений в человеческом интеллекте, чтобы быть мерой технической безопасности.

Бывший вопрос в оси машины, города и ответственности

Суд над одним и тем же заголовком Кэхита Арфа с вопросом «могут ли они думать?» был задан в 1950 году Аланом Тьюрингом, воссозданным со словами Хиндиона сегодня, но в гораздо более ощутимой почве. Теперь вопрос будет работать только в пользу тех, кто думает, а не будет ли машина рассмотрена. С определением «аморальности» Герцеля предложение «инстинкта смешения» Индианона на самом деле указывает на одну и ту же полость: вопрос о том, как передать способность к быстро растущему интеллекту, мораль и концепции ответственности, которые человечество обсуждало в течение тысяч лет.