истории

Сэм Альтман вернулся в OpenAI. Журналисты считают, что за его увольнением стоял соучредитель компании, ученый Илья Суцкевер Он полагает, что стремительное развитие ИИ может угрожать человечеству

Источник: Meduza

Уволенный 18 ноября Сэм Альтман вернулся на пост генерального директора OpenAI спустя всего пять дней. Компания сообщила в соцсети икс (бывший твиттер), что Альтман и новый наблюдательный совет достигли соглашения и теперь обсуждают детали. Свое возвращение в OpenAI подтвердил и другой сооснователь компании, председатель совета директоров Грег Брокман, ушедший вместе с Альтманом. Как отмечает Bloomberg, в последнее время Альтман и глава научного направления Илья Суцкевер разошлись во взглядах на будущее компании, позже эти разногласия переросли в полноценный конфликт. «Медуза» рассказывает, кто мог стоять за неудавшейся попыткой переворота в руководстве OpenAI.

Совет директоров OpenAI 17 ноября без внятных объяснений уволил Альтмана с должности гендиректора, а также лишил поста председателя самого совета Грега Брокмана — сооснователя и президента компании (чуть позже он сам уволился из OpenAI). 

Через три дня глава Microsoft Сатья Наделла объявил, что Альтман и Брокман возглавят новую команду в его корпорации. После этого заявления 738 сотрудников OpenAI (всего, по подсчетам журналистов, в компании работает 770 человек) в открытом письме потребовали восстановить Альтмана в должности, пригрозив уволиться. 

Среди сотрудников, подписавших письмо в защиту бывших руководителей, был и один из основателей компании, член совета директоров Илья Суцкевер. Он занимает должность главного научного исследователя. Именно Суцкевера журналисты считают инициатором отставки Альтмана. OpenAI и Суцкевер не комментировали эти публикации.

Кто такой Илья Суцкевер

Илья Суцкевер родился в Горьком (теперь — Нижний Новгород), ему 37 лет, он имеет гражданства Израиля и Канады. В 1991 году пятилетний Суцкевер вместе с семьей переехал в Израиль, где в начале двухтысячных стал изучать информатику в Открытом университете Израиля. В 2002 году Суцкеверы перебрались в Канаду, Илья поступил в Университет Торонто — в 2007 году он стал магистром компьютерных наук, в 2013-м защитил докторскую диссертацию на тему «Обучение рекуррентных нейронных сетей».

В университете Суцкевер познакомился с Джеффри Хинтоном, специалистом в области искусственного интеллекта и, в частности, глубинного обучения. Хинтон стал его научным руководителем. «Я научился программированию в довольно юном возрасте, и из всех вещей, которые умеет делать компьютер, именно искусственный интеллект казался мне наиболее впечатляющей», — говорил Суцкевер в интервью для университетского сайта. 

Благодаря Хинтону Суцкевер получил возможность «работать над некоторыми из важнейших научных проблем нашего времени»: в 2012 году он устроился в компанию DNNResearch, которую Хинтон создал на базе своей исследовательской группы. Через несколько месяцев ее купил Google, сделав частью проекта Google Brain. В корпорации Суцкевер получил должность научного сотрудника. В следующие три года ученый работал над моделью машинного перевода seq2seq, системой машинного обучения TensorFlow и другими проектами.

В декабре 2015 года Суцкевер ушел из Google и возглавил научно-исследовательское направление некоммерческой организации OpenAI, которая собиралась заниматься исследованиями в области искусственного интеллекта. Сопредседателями совета директоров новой компании стали президент венчурного фонда Y Combinator Сэм Альтман и глава Tesla Илон Маск (он покинул компанию в 2018-м). В 2018 году Альтман преобразовал OpenAI в коммерческую компанию и договорился об инвестициях в миллиард долларов от Microsoft. 

По словам Маска, который изначально хотел создать свою альтернативу Google в сфере искусственного интеллекта, ему пришлось приложить усилия, чтобы убедить Суцкевера перейти из Google в OpenAI. «Это была одна из сложнейших рекрутинговых битв, которые я вел, но она стала ключевым элементом успеха OpenAI», — вспоминал он в одном из интервью. 

Маск утверждает, что, хотя в распоряжении Google и были безграничные ресурсы, включая «примерно две трети всех ИИ-исследователей мира», руководство компании в тот момент якобы не заботилось о безопасности стремительно развивающегося искусственного интеллекта — и это беспокоило главу Tesla. Та же проблема волновала и Суцкевера, которого Маск позже описывал как «умного человека с добрым сердцем». «Мне не кажется невероятным, что у нас будут компьютеры, дата-центры, которые станут умнее людей, — рассуждал Альтман в подкасте об ИИ. — Чем займется такой искусственный интеллект? Я не знаю». В 2023 году именно беспокойство о безопасности искусственного интеллекта для общества стало причиной конфликта между Суцкевером и Альтманом внутри OpenAI. 

На должности директора научно-исследовательского направления Илья Суцкевер не только работал с языковыми моделями GPT, нейронной сетью DALL-E и другими проектами, но и размышлял над вопросами цифровой этики и безопасности. В июле 2023 года он собрал внутри OpenAI команду разработчиков, которая получила название Super Alignment. Ей предстояло изучить способы контроля «суперинтеллектуальных» ИИ-систем будущего. Это была попытка найти баланс между взглядами Суцкевера и идеями Альтмана, который к тому моменту сосредоточился на максимальной коммерциализации продуктов OpenAI, не слишком заботясь о вопросах безопасности.

К октябрю напряжение между двумя руководителями усилилось — по данным источника Bloomberg, знакомого с ситуацией, Альтман попытался «ограничить роль» Суцкевера. Это вызвало недовольство наблюдательного совета.

Вероятно, последней каплей для наблюдательного совета стала успешная презентация новых продуктов OpenAI во время DevDay — первого в истории компании мероприятия для разработчиков, которое состоялось в начале ноября. 

Выступление Альтмана стало его бенефисом: в какой-то момент гендиректор компании с улыбкой попросил восторженную аудиторию не аплодировать ему каждый раз, когда он рассказывает о новом продукте, — впереди было еще много новинок. Они не только открывали новые возможности для разработчиков, но и неизбежно влекли за собой новые уязвимости и проблемы с безопасностью.

Возможно, именно это помогло Суцкеверу убедить правление в том, что Альтман представляет угрозу для будущего OpenAI. Идеи Альтмана о том, как быстро разработать генеративный искусственный интеллект и коммерциализировать продукты, а также как уменьшить потенциальный вред от развития ИИ для общества, стали причиной его конфликта с Суцкевером и наблюдательным советом, сообщал Bloomberg со ссылкой на источник. В день увольнения гендиректора в компании заявили, что Альтман «не был последовательно откровенен в своих контактах с правлением, что препятствовало его способности выполнять свои обязанности». 

Что заставило Суцкевера изменить свое мнение и в конце концов подписать письмо в защиту Альтмана — неизвестно. В соцсети икс ученый написал: