Глава Anthropic заявил о необходимости замедлить темпы развития ИИ для решения вопросов с безопасностью. Ранее об этом говорили в OpenAI
Глава компании Anthropic, разработчика языковой модели Claude, Дарио Амодеи заявил о необходимости срочно замедлить темпы развития искусственного интеллекта. Соответствующий пост он опубликовал в своем блоге.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — считает Амодеи.
Амодеи предложил три этапа координации для решения проблемы, чтобы создание ИИ шло со сбалансированной скоростью, обеспечивающей безопасность.
На первом этапе сами ИИ-компании должны допустить сторонних экспертов для проверки соблюдения внутренних практик безопасности, на втором этапе координация должна быть налажена между ИИ-компаниями в демократических странах. Третий этап — глобальная координация, с привлечением правительств, как демократических стран, так и авторитарных, таких как Китай.
Несколько дней назад на закрытой встрече с сотрудниками глава OpenAI (разработчик ChatGPT) Сэм Альтман заявил, что компания готова снизить темпы разработки своих наиболее продвинутых систем искусственного интеллекта ради безопасности. Он выразил надежду, что другие крупные ИИ-компании последуют примеру OpenAI.