OpenAI официально обнародовала декларацию принципов разработки искусственного интеллекта, в которой Сэм Альтман и команда компании сформулировали пять ключевых тезисов. Документ был опубликован на фоне растущих опасений по поводу безопасности и этичности стремительного развития ИИ.
Первым и, пожалуй, самым обсуждаемым принципом стала демократизация — OpenAI настаивает на том, что ключевые решения о будущем технологии должны приниматься не узким кругом лабораторий, а через демократические процедуры. Вторым пунктом значится расширение возможностей для каждого пользователя. По мнению компании, ИИ способен помочь людям достигать своих целей, обретать новые знания и следовать мечтам. При этом OpenAI подчёркивает, что общество в целом выиграет от такого подхода, так как масштабное внедрение технологий приведёт к росту производительности и качества жизни.
Третий принцип — всеобщее процветание , которое связывается с наращиванием вычислительных мощностей и удешевлением инфраструктуры.
Именно этим объясняются многомиллиардные расходы OpenAI на вычислительные ресурсы, несмотря на относительно скромную выручку. Принцип устойчивости предполагает тесное сотрудничество с правительствами и международными организациями для противодействия глобальным угрозам, включая биологические и киберриски. OpenAI допускает, что в отдельные периоды потребуется координировать действия с государствами и агентствами, чтобы обеспечить безопасность технологий перед их масштабным внедрением.
Завершает декларацию адаптивность — компания признаёт, что готова пересматривать свои позиции по мере развития технологии. В качестве примера приводится случай с моделью GPT-2, от публикации которой в 2019 году OpenAI изначально отказалась, опасаясь общественных последствий, но позже признала свои опасения неоправданными.
Публикация документа пришлась на пик дискуссий о безопасности ускоренной разработки ИИ и распределении полномочий в этой сфере. Ранее часть бывших сотрудников OpenAI критиковала компанию за излишнюю коммерциализацию, изначально позиционировавшейся как некоммерческая структура. Сама OpenAI признаёт, что заслуживает пристального внимания и критики, обещая оперативно реагировать на вызовы и корректировать курс.
