Стюарт Рассел знает ИИ. И он обеспокоен его неконтролируемым ростом. На самом деле, он настолько обеспокоен, что заявляет, что необузданный искусственный интеллект несет в себе возможность «Чернобыля для ИИ». Это может изменить жизнь за пределами нашего нынешнего понимания.
Рассел, профессор информатики Калифорнийского университета в Беркли, десятилетиями был лидером в области искусственного интеллекта. Он также присоединился к другим видным деятелям, таким как Илон Маск и Стив Возняк, в подписании открытого письма с призывом приостановить разработку мощных систем искусственного интеллекта, определяемых как нечто более мощное, чем GPT-4 OpenAI.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме. «Общество поставило на паузу другие технологии с потенциально катастрофическими последствиями для общества. Мы можем сделать это здесь».
Сторонники письма говорят, что в области ИИ нет такого уровня планирования и управления, который соответствовал бы потенциалу технологии, чтобы представить «глубокие изменения в истории жизни на Земле». Подписанты говорят, что это особенно верно, поскольку лаборатории искусственного интеллекта продолжают «неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».
«Если не препятствовать, такое развитие может привести к «Чернобылю для ИИ», — сказал Рассел, имея в виду ядерную катастрофу 1986 года на Украине, которая продолжает оказывать пагубное влияние на жизнь более 35 лет спустя.
«Мы просим разработать разумные принципы», — говорит он. «Вы должны быть в состоянии убедительно продемонстрировать, что система будет безопасно выпущена, а затем показать, что ваша система соответствует этим требованиям безопасности, что он может пережить землетрясение, что этоне взорвется, как Чернобыль».
По словам Рассела, создание новых систем искусственного интеллекта не так уж отличается от создания самолета, способного безопасно перевозить сотни пассажиров, или атомной электростанции, способной катастрофически повлиять на окружающий мир, если что-то пойдет не так.
ИИ обладает такой же огромной силой, настолько мощной, что лидеры даже не уверены, как выглядит катастрофическая трагедия ИИ. Но они хотят убедиться, что мы никогда не узнаем.
Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.
