Основатель компании выступил на мероприятии Массачусетского технологического института и обратился к широко распространенному открытому письму, призывающему лаборатории ИИ отказаться от дальнейших разработок на шесть месяцев.
Сэм Олтмен развеял слухи о том, что OpenAI уже работает над ChatGPT-5, спустя всего месяц после выпуска компанией GPT-4. В настоящее время нет никакого GPT-5 в разработке, сказал Олтмен, выступая виртуально на мероприятии в Массачусетском технологическом институте.
Интервьюер Лекс Фридман, исследователь ИИ из Массачусетского технологического института, спросил Олтмена, что он думает о недавно опубликованном и широко распространенном открытом письме с требованием ввести паузу для ИИ. В ответ основатель OpenAI поделился некоторыми своими критическими замечаниями. «В предыдущей версии письма утверждалось, что OpenAI прямо сейчас тренирует GPT-5. Это не так, и мы не будем делать этого в течение некоторого времени», — отметил Олтмен. «Так что в этом смысле [письмо] было в некотором роде глупым».
Но, GPT-5 или нет, заявление Олтмена вряд ли будет особенно успокаивающим для критиков ИИ, как впервые было отмечено в докладе издания Verge. Основатель технологической компании последовал за своим заявлением «GPT-5 не будет», сразу же уточнив, что для GPT-4 готовятся обновления и дополнения. Существуют способы увеличить производительность технологий, помимо выпуска официальной версии с более высоким номером.
«Мы делаем другие вещи поверх GPT-4, которые, как я думаю, имеют всевозможные вопросы безопасности, которые важно решить, и которые были полностью упущены в письме», — сказал Олтмен, по сути, признавая, что OpenAI поставляет усовершенствования продукта, которые могут быть не полностью оптимизированы для блага человечества или безопасности пользователей. Например, в конце марта компания выпустила плагин для GPT-4, который позволяет ее большой языковой модели просматривать интернет, что может привести к еще большим проблемам с конфиденциальностью данных и манипулированием пользователями.
Олтмен все же предпринял небольшую попытку развеять страхи, связанные с ИИ. Он сказал, что OpenAI потратил более шести месяцев на обучение GPT-4 перед его публичным выпуском. Он также отметил, что «потратить время на то, чтобы действительно изучить безопасность модели… это очень важно».
«Поскольку возможности становятся все более и более серьезными, планка безопасности должна повышаться», — добавил Олтмен. «Я думаю, что двигаться с осторожностью и все более строго подходить к вопросам безопасности действительно важно. Письмо, я думаю, не является оптимальным способом решения этой проблемы».
Тем не менее, заявления генерального директора OpenAI о приоритетности безопасности, вероятно, следует воспринимать с некоторым скептицизмом. Даже в интервью, данном в четверг в Массачусетском технологическом институте, не все, что сказал скандальный предприниматель, соответствовало действительности.
Отвечая на вопрос, будет ли OpenAI продолжать быть прозрачной в будущем, Олтмен сказал: «Мы, конечно, планируем продолжать это делать». Вот только сам вопрос является вводящим в заблуждение мягким мячом. OpenAI, которая когда-то была действительно некоммерческой организацией с открытым исходным кодом, становится все более закрытой, коммерческой корпорацией.
GPT-4, в особенности, является «черным ящиком». Компания не опубликовала никакой информации об учебных данных, на которых был отлажен ее последний чатбот. Она также не поделилась никакой информацией об архитектуре, конструкции или других истинных внутренних деталях GPT-4.
«Учитывая конкурентную среду и последствия для безопасности таких масштабных моделей, как GPT-4, этот отчет не содержит никаких дополнительных подробностей об архитектуре (включая размер модели), аппаратном обеспечении, обучающих вычислениях, построении набора данных, методе обучения и тому подобном», — говорится в техническом отчете OpenAI, который компания опубликовала вместе с релизом GPT-4.
Олтмен также не преминул дать себе волю. Те вещи, которые он говорит, ну, возможно, он не уверен, что они верны:
Я думаю, что многие другие компании не хотят говорить что-то, пока не убедятся в своей правоте. Но я думаю, что эта технология окажет такое влияние на всех нас, что мы считаем, что привлечение всех к обсуждению, выпуск этих систем в мир — хотя они глубоко несовершенны в своем нынешнем состоянии — чтобы люди могли испытать их, подумать о них, понять плюсы и минусы; это стоит того, чтобы пойти на компромисс, даже если мы склонны смущаться на публике и часто менять свое мнение с новыми данными.
Вы можете считать, что чат-боты с искусственным интеллектом — это начало конца человеческой расы. Или вы считаете, что все эти так называемые «искусственные интеллекты» слишком преувеличены. Независимо от вашей позиции в отношении призыва к шестимесячному мораторию на ИИ, ответ Олтмена на открытое письмо, в конечном счете, не является ответом.
