AI2050 Благотворительный фонд

История

2022: Создание благотворительного фонда с общим капиталом $125 млн

16 февраля 2022 года появилась информация о том, что бывший исполнительный директор Google Эрик Шмидт (Eric Schmidt) объявил о создании благотворительного фонда с общим капиталом 125 млн долларов, который будет оказывать содействие исследованиям в сфере искусственного интеллекта. Речь, в первую очередь, идёт об исследованиях, направленных на решение кардинальных проблем, проявляющихся при использовании технологий искусственного интеллекта, в том числе предвзятости (феномен AI bias - прим. TAdviser), возможности причинения вреда и злоупотреблений. В списке значатся также геополитические конфликты и научная ограниченность самой технологии.

Бывший глава Google Эрик Шмидт создаёт фонд для решения "ключевых" проблем ИИ
Фото: Reuters/Financial Times

Фонд, получивший название AI2050, планирует выплатить всю сумму в течение ближайших пяти лет. Помимо самого Шмидта, фондом руководит также Джеймс Манийка, глава подразделения Google по вопросам технологий и общества.

Как заявил сам Шмидт изданию Financial Times, список кардиальных проблем ИИ был сформулирован по образцу Проблем Гильберта, списка из 23 кардинальных проблем математики, представленных Давидом Хилбертом (Гильбертом) в 1900 году на II Международном конгрессе математиков в Париже.

"Очень многие люди высказывают озабоченность (в отношении ИИ), но лишь немногие действительно работают над решением (кардинальных проблем). Если мы можем найти следующее поколение исследователей, способных на идеально своевременные открытия в этих областях, это будет прекрасным результатом", - заявил Шмидт.

Бизнес, правительства, представители научной общественности и гражданские активисты широко обсуждают, как ИИ скажется на дальнейшем состоянии и развитии общества и как нейтрализовать наиболее "токсичные" последствия его повсеместного внедрения. Среди таковых - злонамеренное создание "дип-фейков" и манипуляция общественным мнением через алгоритмы социальных сетей.TAdviser Security 100: Крупнейшие ИБ-компании в России 58.8 т

Задача фонда AI2050 - поспособствовать созданию к 2050 году таких технологий ИИ, воздействие которых на общество станет общепризнанно благоприятным. Фонд будет финансировать проекты, которые позволят использовать ИИ для объективной оценки и устранения социоэкономического неравенства. Кроме того, финансирование обещано проектам, занимающимся разработкой так называемых "жидких" нейронных сетей, которые могут изменять свои параметры в режиме реального времени, существенно улучшая свою способность анализировать меняющиеся данные.

Разработчиков технологий искусственного интеллекта, как отмечает Financial Times, часто критикуют за то, что они не учитывают этические составляющие при создании ИИ и допускают ошибки при их программировании и обучении, которые приводят к многочисленным проявлениям предвзятости и необъективности при принятии машиной решений.

Шмидт указывает, что его цель - помочь избежать ошибок, допущенных при разработке "сегодняшних технологий".

"Не думаю, что мы понимаем степень воздействия социальных медиа на общество - и позитивного, и негативного. А у ИИ есть потенциал оказывать ещё большее позитивное и негативное воздействие, просто в силу его способности понимать человеческое поведение и убеждения и манипулировать ими", - отметил Шмидт.

Его фонд не будет финансировать разработчиков, нанятых крупными корпорациями, хотя по признанию самого Шмидта, исследования в области ИИ, начавшиеся в академических средах, легко и часто коммерциализируются.

Это связано и с тем, что даже в крупнейших университетах уровня Стэнфордского или Оксфордского бывает очень сложно получить финансирование на исследования ИИ. Зато в них охотно вкладываются корпорации, но те заинтересованы в узкопрактических целях и решениях, а не глобальной проблематике.

Это не первая инвестиция Эрика Шмидта по данному направление, например, год назад он вложил около 150 млн долларов в биологические исследования на базе ИИ. Акцент на взаимодействие с независимыми исследователями позволяет уйти от развития чисто прикладных разработок коммерческих компаний и сконцентрироваться на перспективных технологиях, зачастую не имеющих очевидного сценария быстрой коммерциализации, – отметил Дмитрий Гвоздев, генеральный директор компании "Информационные технологии будущего". Это – с одной стороны – инвестиция в развитие направления в целом, с другой – возможность получить контроль над потенциально перспективной технологией. И когда Эрих Шмидт в своих статьях и книгах предупреждает об угрозах и возможностях, таящихся в проникновении ИИ в различные отрасли человеческой жизни, он знает, о чем говорит – многие из этих угроз и возможностей сформированы при его участии.

Первые гранты от фонда AI2050 получили уже шесть исследователей. Компания Google в финансировании этих грантов не участвует.^[1]

Примечания