title-icon
Яндекс.Метрика

OpenAI

03.04.2022


OpenAI — американская компания, занимающаяся разработкой и лицензированием технологий на основе машинного обучения. Одним из основателей является предприниматель Илон Маск.

История

Илон Маск и Сэм Альтман (президент венчурного фонда Y Combinator) запустили OpenAI в конце 2015 с целью создать открытую компанию, работающую на благо общества, а не государства или корпорации. Открытость призвана избежать концентрации власти, которую даёт ИИ, в одних руках. В планах компании открыто сотрудничать со всеми лицами и учреждениями, публиковать все результаты своих исследований.

Сопредседателями компании стали её основатели, Илон Маск и Сэм Альтман.

Инвесторы обещают вложить в компанию 1 млрд долларов, но в ближайшие годы будет потрачена только небольшая часть этой суммы. OpenAI получила поддержку от Рида Хоффмана, Гейба Ньюэлла, Питера Тиля, Грэга Брокмана (бывшего технического директора компании Stripe), Джессики Ливингстон, компаний Amazon Web Services и Infosys.

Всего на момент основания в компании работало 9 человек. Среди них — технический директор Грэг Брокман, директор по исследованиям — Илья Суцкевер, ученик Джеффри Хинтона, ранее работавший в Google Brain. Другие сотрудники (Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, John Schulman, Pamela Vagata, Wojciech Zaremba) ранее работали в известных академических группах, Facebook AI и Google. Консультантами компании выступили Pieter Abbeel, Yoshua Bengio, Alan Kay, Sergey Levine, Vishal Sikka. Весной 2016 к команде присоединился Иэн Гудфеллоу (англ. Ian Goodfellow), автор моделей MaxOut Network, Generative Adversarial Network и книги по глубокому обучению, пришедший из Google Brain, а также Пьетр Эббил (англ. Pieter Abbeel), консультант компании, доцент из Калифорнийского университета в Беркли, лаборатория BAIR (Berkeley Artificial Intelligence Research), занимавшийся в программе обучения роботов Brett (Berkeley Robot for the Elimination of Tedious Tasks). В компании действует программа стажировки.

20 февраля 2018 года Илон Маск вышел из совета директоров OpenAI из-за возможного конфликта интересов. На данный момент совет директоров состоит из Грэга Брокмана, Ильи Суцкевера, Холдена Карновски и Сэма Альтмана.

Цели и задания

Некоторые учёные, такие как Стивен Хокинг и Стюарт Рассел, полагали, что если продвинутый ИИ когда-нибудь получит способность реконструировать себя всё возрастающим темпом, непреодолимый «взрыв интеллекта» может привести к исчезновению человека. Илон Маск характеризует ИИ как самую большую экзистенциальную угрозу человечества. Основатели OpenAI структурировали его как некоммерческую организацию, не связывающую финансовыми обязательствами акционеров, чтобы они могли сосредоточить свои исследования на создании положительного долгосрочного воздействия на человека.

OpenAI заявляет, что «трудно понять, насколько ИИ на человеческом уровне может принести пользу обществу», и что также трудно понять, «насколько это может нанести ущерб обществу, если оно будет построено или использовано неправильно». Исследование безопасности не может быть отложено: «из-за неопределенного развития ИИ трудно предсказать, когда ИИ на человеческом уровне может оказаться в пределах досягаемости». Также OpenAI заявляет, что ИИ «должен быть расширением индивидуальных человеческих желаний, которое можно будет широко и равномерно распределить…». Сопредседатель Сэм Альтман ожидает, что десятилетний проект превзойдёт человеческий интеллект.

Также на официальном сайте организации обозначены следующие направления:

  • Обнаружение скрытых от общественности прорывных систем искусственного интеллекта. По мере увеличения количества организаций и ресурсов, выделяемых на исследования ИИ, увеличивается вероятность, что организация втайне сделает прорыв в области ИИ и использует систему для потенциально злонамеренных целей. Для обнаружения можно использовать много способов — изучение новостей, финансовых рынков, онлайн-игр и так далее.
  • Создание агента, который сможет побеждать в онлайн-конкурсах по программированию. Программа, которая может писать другие программы, по очевидным причинам будет очень мощным инструментом.
  • Обеспечение кибербезопасности. В первую очередь ИИ могут использовать для взлома компьютерных систем. В свою очередь, возможно создание ИИ для защиты от хакеров, использующих подобные методы.
  • Реализация комплексных многоагентных моделей. Существует задача создать очень обширную модель с множеством разных агентов, которые могут взаимодействовать друг с другом, учиться в течение длительного периода времени, создавать свой язык и достигать различных целей.
  • OpenAI Gym

    27 апреля 2016 компания выпустила публичную бета-версию OpenAI Gym Архивная копия от 28 января 2019 на Wayback Machine, платформы для разработки и сравнения алгоритмов обучения с подкреплением.

    Обучение с подкреплением является одним из алгоритмов искусственного интеллекта, который в последнее время показал хорошие результаты в различных сложных областях: робототехника, настольные игры (AlphaGo), видеоигры (результаты DeepMind). OpenAI Gym призван дать инструментарий, помогающий в проведении исследований в этой области. Платформа предоставляет исследователям простой в установке фреймворк с коллекцией разнообразных тестовых сред для обучения, наподобие набора данных ImageNet Архивная копия от 30 апреля 2016 на Wayback Machine, и пытается стандартизировать тестовые среды для более лёгкого воспроизведения результатов научных публикаций. В тестовые среды на момент выпуска входят: классические задачи, простые текстовые игры, алгоритмические задачи, настольные игры, видеоигры для приставки Atari, роботы в физическом симуляторе MuJoCO Архивная копия от 12 марта 2022 на Wayback Machine.

    OpenAI Gym реализован на языке программирования Python, поддерживает библиотеки машинного обучения TensorFlow, Theano.

    OpenAI Five

    Компьютерная программа от OpenAI обыграла профессиональных игроков в Dota 2 в режиме 1 на 1 в 2017 году, но по состоянию на 2018 год была всё ещё слабее в командном режиме. В апреле 2019 года боты от OpenAI выиграли в командном режиме best-of-three серию у чемпионов The International 2018 и The International 2019 профессиональной киберспортивной команды OG. В том же месяце боты выиграли более 99 % игр в соревновании, в котором мог принять участие любой желающий.

    GPT-3

    GPT-3 — третье поколение алгоритма обработки естественного языка. На сентябрь 2020 года это самая крупная и продвинутая языковая модель в мире. Модель, по заявлению разработчиков, решает «любые задачи на английском языке».