На фоне полного хаоса, в котором оказалась компания OpenAI в последние несколько дней, несколько исследователей выразили свою обеспокоенность в письме к совету директоров. В частности, они объясняют, что один из проектов компании, проект Q*, достиг той стадии развития, которая считается слишком опасной для человечества. Письмо, которое может послужить причиной увольнения Сэма Альтмана.
Неужели мы только что узнали причину, побудившую совет директоров уволить Сэма Альтмана, генерального директора OpenAI, а затем вновь принять его на работу в начале этой недели?
Немного напомним факты:
- 17 ноября этого года компания OpenAI, стоящая за ChatGPT, объявила об уходе своего руководителя. Последовавшая за этим череда приключений держала в напряжении весь технологический мир.
- Между угрозами увольнения от 500 сотрудников, обещанием Microsoft взять их на работу, назначением бывшего босса Twitch во главе компании OpenAI, и, наконец, возвращением Сэма Альтмана на должность CEO компании OpenAI 22 ноября, прошло всего 5 дей, которые держали в напряжении всех.
И мы думали, что наконец-то этот сериал закончен. Пока в руки наших коллег из Reuters не попал документ огромной важности.
Проект Q* (Q Star) от OpenAI
Этот документ представляет собой письмо, написанное группой исследователей OpenAI. Предназначенное для совета директоров, оно посвящено обсуждению хода работы над проектом Q* (произносится как Q Star).
Изначально проект Q* заключается в создании ИИ, способного решать математические задачи. К настоящему времени, как сообщается, компания разработала ИИ, способный решать задачи, предназначенные для детей.
Можно, конечно, предположить, что до получения действительно впечатляющих результатов еще далеко. Но для авторов письма этот рубеж уже пройден. Надо сказать, что решение математических задач требует от ИИ гораздо более продвинутых возможностей, чем чат-бот типа ChatGPT, который «просто» анализирует подсказки и выбирает подходящий ответ.
Таким образом, исследователи хотели бы предостеречь совет директоров OpenAI от прогресса проекта Q*. Последние не стесняются проявлять алармизм. По их мнению, открытия, сделанные компанией, сегодня представляют реальную опасность для человечества. Чтобы в полной мере понять, что беспокоит исследователей, необходимо сначала разобраться, что такое AGI.
OpenAI приближается к AGI, и это волнующая новость
AGI (Artificial General Intelligence, или общий искусственный интеллект) — это в некотором роде высшая модель ИИ. Идея состоит в том, чтобы создать ИИ, функционирующий аналогично человеческому мозгу, что теоретически позволит ему выполнять точно такие же задачи.
Если мы уже обеспокоены прорывом ИИ в сферу труда, то AGI полностью нарушит наши экономические модели, поскольку ничто не помешает компаниям использовать его вместо сотрудников.
Неизвестно, на чем именно делали акцент авторы письма, поскольку агентство Reuters не имело доступа к документу. С другой стороны, СМИ удалось опросить два разных источника, которые подтвердили, что письмо действительно было отправлено и, главное, что оно послужило причиной увольнения Сэма Альтмана.
Глава OpenAI не скрывает, что разрабатывает инструменты, которые в ближайшем будущем подорвут рынок труда.
Однако за день до увольнения он повторил свои высказывания на саммите APEC, заявив, что ему удалось увидеть впечатляющий прогресс, достигнутый проектом Q*. Такой отход от намеченного курса мог стать последней каплей для совета директоров, состоявшего на тот момент из нескольких членов движения «Эффективный альтруизм», выступающего за ограничение возможностей искусственного интеллекта.
Сегодня OpenAI возглавляет обновленный совет директоров, а у руля снова стоит Сэм Альтман.
