Сэм Альтман вернулся в OpenAI. Журналисты считают, что за его увольнением стоял соучредитель компании, ученый Илья Суцкевер Он полагает, что стремительное развитие ИИ может угрожать человечеству
Уволенный 18 ноября Сэм Альтман вернулся на пост генерального директора OpenAI спустя всего пять дней. Компания сообщила в соцсети икс (бывший твиттер), что Альтман и новый наблюдательный совет достигли соглашения и теперь обсуждают детали. Свое возвращение в OpenAI подтвердил и другой сооснователь компании, председатель совета директоров Грег Брокман, ушедший вместе с Альтманом. Как отмечает Bloomberg, в последнее время Альтман и глава научного направления Илья Суцкевер разошлись во взглядах на будущее компании, позже эти разногласия переросли в полноценный конфликт. «Медуза» рассказывает, кто мог стоять за неудавшейся попыткой переворота в руководстве OpenAI.
Совет директоров OpenAI 17 ноября без внятных объяснений уволил Альтмана с должности гендиректора, а также лишил поста председателя самого совета Грега Брокмана — сооснователя и президента компании (чуть позже он сам уволился из OpenAI).
Через три дня глава Microsoft Сатья Наделла объявил, что Альтман и Брокман возглавят новую команду в его корпорации. После этого заявления 738 сотрудников OpenAI (всего, по подсчетам журналистов, в компании работает 770 человек) в открытом письме потребовали восстановить Альтмана в должности, пригрозив уволиться.
Среди сотрудников, подписавших письмо в защиту бывших руководителей, был и один из основателей компании, член совета директоров Илья Суцкевер. Он занимает должность главного научного исследователя. Именно Суцкевера журналисты считают инициатором отставки Альтмана. OpenAI и Суцкевер не комментировали эти публикации.
Кто такой Илья Суцкевер
Илья Суцкевер родился в Горьком (теперь — Нижний Новгород), ему 37 лет, он имеет гражданства Израиля и Канады. В 1991 году пятилетний Суцкевер вместе с семьей переехал в Израиль, где в начале двухтысячных стал изучать информатику в Открытом университете Израиля. В 2002 году Суцкеверы перебрались в Канаду, Илья поступил в Университет Торонто — в 2007 году он стал магистром компьютерных наук, в 2013-м защитил докторскую диссертацию на тему «Обучение рекуррентных нейронных сетей».
В университете Суцкевер познакомился с Джеффри Хинтоном, специалистом в области искусственного интеллекта и, в частности, глубинного обучения. Хинтон стал его научным руководителем. «Я научился программированию в довольно юном возрасте, и из всех вещей, которые умеет делать компьютер, именно искусственный интеллект казался мне наиболее впечатляющей», — говорил Суцкевер в интервью для университетского сайта.
Благодаря Хинтону Суцкевер получил возможность «работать над некоторыми из важнейших научных проблем нашего времени»: в 2012 году он устроился в компанию DNNResearch, которую Хинтон создал на базе своей исследовательской группы. Через несколько месяцев ее купил Google, сделав частью проекта Google Brain. В корпорации Суцкевер получил должность научного сотрудника. В следующие три года ученый работал над моделью машинного перевода seq2seq, системой машинного обучения TensorFlow и другими проектами.
В декабре 2015 года Суцкевер ушел из Google и возглавил научно-исследовательское направление некоммерческой организации OpenAI, которая собиралась заниматься исследованиями в области искусственного интеллекта. Сопредседателями совета директоров новой компании стали президент венчурного фонда Y Combinator Сэм Альтман и глава Tesla Илон Маск (он покинул компанию в 2018-м). В 2018 году Альтман преобразовал OpenAI в коммерческую компанию и договорился об инвестициях в миллиард долларов от Microsoft.
По словам Маска, который изначально хотел создать свою альтернативу Google в сфере искусственного интеллекта, ему пришлось приложить усилия, чтобы убедить Суцкевера перейти из Google в OpenAI. «Это была одна из сложнейших рекрутинговых битв, которые я вел, но она стала ключевым элементом успеха OpenAI», — вспоминал он в одном из интервью.
Маск утверждает, что, хотя в распоряжении Google и были безграничные ресурсы, включая «примерно две трети всех ИИ-исследователей мира», руководство компании в тот момент якобы не заботилось о безопасности стремительно развивающегося искусственного интеллекта — и это беспокоило главу Tesla. Та же проблема волновала и Суцкевера, которого Маск позже описывал как «умного человека с добрым сердцем». «Мне не кажется невероятным, что у нас будут компьютеры, дата-центры, которые станут умнее людей, — рассуждал Альтман в подкасте об ИИ. — Чем займется такой искусственный интеллект? Я не знаю». В 2023 году именно беспокойство о безопасности искусственного интеллекта для общества стало причиной конфликта между Суцкевером и Альтманом внутри OpenAI.
На должности директора научно-исследовательского направления Илья Суцкевер не только работал с языковыми моделями GPT, нейронной сетью DALL-E и другими проектами, но и размышлял над вопросами цифровой этики и безопасности. В июле 2023 года он собрал внутри OpenAI команду разработчиков, которая получила название Super Alignment. Ей предстояло изучить способы контроля «суперинтеллектуальных» ИИ-систем будущего. Это была попытка найти баланс между взглядами Суцкевера и идеями Альтмана, который к тому моменту сосредоточился на максимальной коммерциализации продуктов OpenAI, не слишком заботясь о вопросах безопасности.
К октябрю напряжение между двумя руководителями усилилось — по данным источника Bloomberg, знакомого с ситуацией, Альтман попытался «ограничить роль» Суцкевера. Это вызвало недовольство наблюдательного совета.
Вероятно, последней каплей для наблюдательного совета стала успешная презентация новых продуктов OpenAI во время DevDay — первого в истории компании мероприятия для разработчиков, которое состоялось в начале ноября.
Выступление Альтмана стало его бенефисом: в какой-то момент гендиректор компании с улыбкой попросил восторженную аудиторию не аплодировать ему каждый раз, когда он рассказывает о новом продукте, — впереди было еще много новинок. Они не только открывали новые возможности для разработчиков, но и неизбежно влекли за собой новые уязвимости и проблемы с безопасностью.
Возможно, именно это помогло Суцкеверу убедить правление в том, что Альтман представляет угрозу для будущего OpenAI. Идеи Альтмана о том, как быстро разработать генеративный искусственный интеллект и коммерциализировать продукты, а также как уменьшить потенциальный вред от развития ИИ для общества, стали причиной его конфликта с Суцкевером и наблюдательным советом, сообщал Bloomberg со ссылкой на источник. В день увольнения гендиректора в компании заявили, что Альтман «не был последовательно откровенен в своих контактах с правлением, что препятствовало его способности выполнять свои обязанности».
Что заставило Суцкевера изменить свое мнение и в конце концов подписать письмо в защиту Альтмана — неизвестно. В соцсети икс ученый написал:
Я глубоко сожалею о своем участии в действиях наблюдательного совета. Я никогда не имел намерения причинить вред OpenAI. Я люблю все, что мы построили вместе, и сделаю все, что могу, чтобы компания обрела единство.
Михаил Герасимов