В новом заявлении сотни ученых, экспертов и предпринимателей, занимающихся разработкой искусственного интеллекта (ИИ), в том числе миллиардер Илон Маск, призывают как минимум на шесть месяцев приостановить разработку новых моделей ввиду «глубокого опасности для общества и человечества». Они предлагают разработчикам использовать паузу для совместной работы над правилами безопасности, а также активизировать сотрудничество с законодателями для жесткого регулирования отрасли. Призыв остановить разработку немедленно относится к «обучению систем искусственного интеллекта сильнее, чем GPT-4», текстовой модели нового поколения, представленной OpenAI в этом месяце.
«Эта приостановка должна быть публичной и поддающейся проверке… Если это невозможно сделать быстро, правительства должны вмешаться и ввести мораторий», — говорят подписавшие петицию, опубликованную некоммерческой организацией Future of Life Institute.
Кроме Маска, который входит в число спонсоров OpenAI, в их число также входят соучредитель Apple Стив Возняк, глава Stability AI Эмад Мостак, философ Юваль Ноа Харари, эксперт по искусственному интеллекту Макс Тегмарк, а также профессора из североамериканских и других университетов. По словам авторов, последние месяцы вывели из-под контроля гонку среди разработчиков искусственного интеллекта. Как отмечает Reuters, прорыв произошел в прошлом году, когда компания OpenAI сделала доступным приложение ChatGPT. Это побудило конкурирующие предприятия ускорить разработку аналогичных моделей, а другие фирмы попытаться внедрить генеративный искусственный интеллект в свои продукты. Между тем усилия по регулированию этих технологий находятся на начальной стадии.
«Сильные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их воздействие будет положительным, а риски управляемыми», — говорится в призыве, подписанном Маском и другими. Он описывает современные системы искусственного интеллекта как сопоставимые с людьми при выполнении определенных задач и поднимает вопросы о возможном «перехитринии» людей и «потере контроля над нашей цивилизацией».