Илон Маск и Стив Возняк призывают ввести мораторий на искусственный интеллект. Слишком опасно
Илон Маск, Стив Возняк, пионер искусственного интеллекта Йошуа Бенжио и другие подписали открытое письмо, призывающее к шестимесячному перерыву в разработке новых инструментов искусственного интеллекта, более мощных, чем GPT-4, технология, выпущенная ранее в этом месяце стартапом OpenAI, поддерживаемым Microsoft. как сообщает Wall Street Journal.
Современные системы искусственного интеллекта становятся конкурентоспособными для людей в общих задачах, и мы должны спросить себя, должны ли мы позволять машинам занимать наши информационные каналы: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать все работы, в том числе самые приятные? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы превзойти нас численностью, стать умнее, устаревшими и заменить нас? Должны ли мы рисковать потерять контроль над нашей цивилизацией? Эти решения не должны делегироваться неизбранным технологическим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми . — www.futureoflife.org
«Мы достигли точки, когда эти системы стали достаточно умными, чтобы их можно было использовать способами, опасными для общества, — сказал Бенжио, директор Монреальского института алгоритмов обучения в Университете Монреаля. т понять это." .
Их опасения были изложены в письме под названием « Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо », спонсируемом некоммерческой организацией Future of Life Institute, консультируемой Маском.
В письме не содержится призыв остановить все разработки ИИ, но оно настоятельно призывает компании временно приостановить тренировочные системы, более мощные, чем GPT-4, технология, выпущенная в этом месяце стартапом OpenAI, поддерживаемым корпорацией Microsoft, включая технологию OpenAI следующего поколения. , ГПТ-5.
Чиновники OpenAI говорят, что они еще не начали обучение GPT-5. В интервью генеральный директор OpenAI Сэм Альтман сказал, что компания долгое время уделяла приоритетное внимание безопасности при разработке и потратила более шести месяцев на тестирование безопасности GPT-4 перед его запуском. — ВСЖ
Однако, по словам Голдмана, ИИ может заменить до 300 миллионов рабочих мест, поскольку «две трети рабочих мест могут быть частично автоматизированы с помощью ИИ». Ситуация, которая привела бы к социальным потрясениям, с которыми трудно справиться.
Так называемый генеративный ИИ создает оригинальный контент на основе предложений человека. Эта технология уже реализована в поисковой системе Microsoft Bing и других инструментах. Вскоре после этого Google выпустила конкурента под названием Bard. Другие компании, в том числе Adobe, Salesforce и Zoom, представили передовые инструменты искусственного интеллекта. «Гонка начинается сегодня», — заявил в прошлом месяце генеральный директор Microsoft Сатья Наделла. "Мы будем двигаться, и быстро."
Один из организаторов письма Макс Тегмарк, возглавляющий Институт будущего жизни и являющийся профессором физики Массачусетского технологического института, называет это «суицидальным порывом».
«Стыдно представлять этот вопрос как гонку вооружений, — сказал он. «Это настоящая гонка к самоубийству. Неважно, кто придет первым. Это просто означает, что человечество в целом может потерять контроль над своей судьбой».
Институт будущего жизни начал работу над письмом на прошлой неделе и первоначально разрешил любому подписаться без подтверждения личности. В какой-то момент к письму было добавлено имя г-на Альтмана, но позже оно было удалено. Г-н Альтман сказал, что никогда не подписывал это письмо. Он сказал, что фирма часто координирует свои действия с другими фирмами ИИ в отношении стандартов безопасности и для обсуждения более широких вопросов.
Благодаря нашему Telegram-каналу вы можете быть в курсе публикации новых статей из журнала «Экономические сценарии».
В статье Илон Маск и Стив Возняк призывают ввести мораторий на искусственный интеллект. Слишком опасно исходит из экономических сценариев .
Это автоматический перевод публикации, опубликованной в журнале Scenari Economici по адресу https://scenarieconomici.it/elon-musk-e-steve-wozniak-chiedono-una-moratoria-per-lintelligenza-artificiale-troppo-pericolosa/ в Wed, 29 Mar 2023 19:41:10 +0000.