Несколько фрагментов из разговора главы OpenAI с автором предпринимательского подкаста Founders Дэвидом Сенрой.

• Зачем пользоваться компьютером по старинке, если есть Codex?
• OpenAI хочет быть платформенной компанией. Как это?
• Почему иногда важно уметь хоронить даже хорошие идеи?
• К кому Альтман ходит за советом, если мысль не идёт?
• «Все счастливые семьи похожи друг на друга». При чём тут Толстой?
• В каких случаях высокие ставки оправданы?
• Что значит «дать ИИ контекста больше, чем способен удержать человек»?
• Будущее с ИИ — какое оно?

Цитаты приведены от первого лица.

Моё самое странное психологическое противоречие — что я уже 20 лет пользуюсь компьютером одним и тем же способом. Казалось бы, теперь у меня есть волшебный инструмент под названием Codex. Значит, я — по идее — должен пользоваться компьютером иначе.

Я не должен водить курсором туда-сюда, копировать что-то из одного мессенджера в другой. Не должен бездумно пролистывать почтовый ящик в попытке угадать, какое письмо вызовет поменьше негативных эмоций, когда на то нет никакого желания. Делать всё то, что делал все эти годы.

Однако в голове как будто намертво засело убеждение, что именно это означает «быть продуктивным». Спроси, нравится ли мне так работать, и я ни за что не отвечу «да». Ведь есть способ получше. С Codex я могу быстрее разгребать письма, закрывать списки дел. Почему всё равно работаю с компьютером по старинке? Логического объяснения нет. Лишь предположение, что в глубине души я всё же получаю какое-то удовольствие.

Не знаю, что должно измениться. Наверное, всему своё время. Преломить укоренившиеся привычки и процессы очень трудно.

Я верю, что на базе этой же технологии мы разработаем продукты, которые сделают переход более плавным. Это сейчас мы словно застряли меж двух миров: у нас есть компьютер, которым можно пользоваться по-старому, и Codex, который умеет пользоваться компьютером за нас. Просто мы пока не поняли, когда и что использовать. И это, как мне кажется, прежде всего продуктовый провал.

Нынешний этап напоминает времена до iPhone. Технологии вроде уже существовали, но не хватало тех продуктовых идей, которые сделали iPhone «айфоном». Сейчас то же самое: компоненты на месте, но перелом, после которого взаимодействие человека с технологией в корне меняется, ещё не случился.

Раньше у нас были ChatGPT, Codex и API (название Codex, кстати, не очень удачное — он предназначался не только для кодинга, но и для практически любых рабочих задач). Но недавно мы объединили чат-бота и Codex.

Мы, конечно, продолжим делать «продукты». Просто большинству нужен единый интерфейс к персональному AGI (универсальный ИИ) или AGI своей компании, который поможет с чем угодно, плюс API, с помощью которого можно разработать собственные инструменты.

Мы будем предлагать качественный ИИ во всех ценовых сегментах. Нужен самый мощный ИИ для научных открытий — держите. Нужен самый дешёвый для объёмной рутины, что не требует интеллекта уровня «гений»? Пожалуйста. <...> Все они будут сведены в единый интерфейс, который со временем станет всё больше напоминать постоянно доступного личного агента.

Создавать продукты во всех подряд категориях лично я не хочу. Не вижу смысла пытаться конкурировать со всеми нашими клиентами, чтобы поглотить всю экономику. Мы должны дать пользователям ту платформу, о которой я говорю, и сделать так, чтобы с её помощью в мире появилось 100 млн новых компаний, а 8 млрд человек придумывали бы новые способы её применить.

Умение хоронить добротные идеи — отказываться от хорошего ради великого — один из самых трудных уроков любого предпринимателя. Это тяжело и лично у меня получается плохо. Например, в 2025 году мы закрыли Sora. Продукт хороший, забавный, но потреблял много вычислительных ресурсов и был не так важен, как Codex, куда мы перенаправили мощности.

Мы закрыли браузер Atlas. Опять же — прекрасный продукт, лучший браузер. Но в условиях ограниченных ресурсов мы долго думали и решили, что самое важное, что мы можем сделать, — это создать универсальный интеллект для умственного труда. Всё, что поможет нам в этом (собственные чипы и дата-центры, высококачественное инфраструктурное ПО и обучение), — приоритет. Распыляться на всё и сразу не стоит.

Подкаст полностью

Больше всего уроков о бизнесе и мироустройстве я вынес из общения с Полом Грэмом и Питером Тилем. К ним же хожу по сей день, если оказываюсь в тупике. Сколько ни искал, так и не встретил людей, умеющих мыслить столь нелинейно. Это крайне ценный навык.

Большие языковые модели предсказывают следующее слово, но что скажут эти двое — предсказать очень трудно. Ты приходишь к ним и говоришь: «Я перебрал все варианты». В ответ слышишь: «Все они не годятся. Вот решение». После этого тебе кажется, что оно лежало под носом, но сам ты до него не додумался. <...>

После запуска ChatGPT люди толком не понимали, для каких задач его использовать. Продукт рос стремительно, при этом сам рост казался неустойчивым, а его ценность — минимальной. Люди подключались из любопытства: поговорить и посмотреть, что бот умеет.

Многие в компании твердили, что нужно думать дальше, укреплять ценность. Казалось, обязательно должен быть механизм, который привяжет пользователя к продукту. Вроде ленты рекомендаций в соцсетях. А у нас ничего такого не было, даже «Памяти».

Я пошёл к Питеру с идеями, на которых можно сосредоточиться, но он сказал: «Нужно удвоить ставку на то, что продукт растёт. Сам по себе рост — редкость и благо. Делать что-то иное — ошибка. Сила вашего продукта в том же, в чём крылась сила поисковой строки Google. У человека есть пустое поле, куда можно ввести что угодно, а в ответ получить то что нужно. То, что продукт пока не соответствует текущим канонам Кремниевой долины, неважно». Я согласился, и ставка сыграла.

[Что касается Пола], то именно он во многом приучил стартапы к принципу «первую версию продукта нужно выпускать как можно раньше — когда тебе всё ещё стыдно за неё».

Улучшить продукт, причём гораздо быстрее, поможет первая обратная связь от пользователей. Даже не помню, чтобы спрашивал у него, стоит ли выпускать ChatGPT. Сразу знал ответ.

Поделюсь одним из самых ярких моих воспоминаний за всю историю OpenAI. Конец 2015 года. Компанию только-только основали. Первый рабочий день — сразу после Нового года. 4 января, 9:30. Человек 12 приходят в гости к Грегу Брокману (сооснователь — прим. vc.ru). Все воодушевлённые, будто первый день в школе, а потом давай друг на друга глядеть, вопрошая: «И что теперь?»

Кто-то решил, что нам нужна маркерная доска. Доску нашли. Что дальше? Я тогда прямо почувствовал, как энтузиазм буквально испаряется. Это не продуктовый стартап, чтобы идти говорить с клиентами. Все без понятия, что делать.

Стали думать. Вот решили мы создать AGI. Может, напишем несколько статей? Давайте. Может, устроим мозговой штурм? Устроим. Каждый хоть раз сталкивался с абсолютным непониманием происходящего, и это как раз оно.

В итоге стали делать, что умели. В процессе выяснили, что многие идеи не работают. Потом нащупали ритм, в котором получалось выдвигать исследовательские гипотезы и оценивать результаты. От идеала они были далеки, но мы хотя бы не стояли на месте и со временем поняли, как обеспечить умных людей ресурсами и не потерять ориентиры.

За несколько лет — часто спотыкаясь — мы сделали большинство ключевых открытий. Например, работа о распознавании тональности текста без обучения на размеченных данных привела нас к GPT-1, а потом и ко многим другим GPT. Сколько их там... <...>

Один великий русский роман (мне ужасно стыдно, что я позабыл название) открывается так: «Все счастливые семьи похожи друг на друга, каждая несчастливая семья несчастлива по-своему» («Анна Каренина» Льва Толстого — прим. vc.ru).

Когда я разбираю свои неудачи, я выношу что-то общее о стойкости, упорстве и о том, чего делать не стоит. Но причин у неудачи может быть так много, что однозначно распознать первостепенную бывает трудно.

Поэтому уроки, вынесенные из успехов, лично для меня были гораздо полезнее антиуроков. Вторые часто оказываются слишком общими, а иногда даже мешают экспериментам. Думаю, многие согласятся.

Когда мы только начинали, люди считали крайне маловероятным и почти невозможным создание AGI. За то, что мы поставили такую цель, нас разносили практически все умы этой области. То же нас ждало, когда взялись за большие языковые модели.

Сами мы понимали, что высокорисковые ставки оправданы, если ценность в случае выигрыша будет тоже высока. Выдающимися исследователями обычно становятся те, кто готов идти против общепринятого мнения. У них свежий взгляд, полно энергии. Они нестандартные.

В бизнесе то же самое. Зачем инвестировать в основателя со слегка изменённой версией идеи, которую ты до этого слышал тысячу раз? Они могут сколько угодно убеждать тебя (или, скорее, себя), что это что-то новое, но на деле они просто пытаются не выбиваться из стада и делать то, что «положено»: основывать стартапы.

Они слушают Питера Тиля, который призывает забыть про шаблоны, и пытаются имитировать. Но человека, который действительно мыслит иначе, видно сразу. Он готов отстаивать непопулярные убеждения и может ошибаться. Просто если окажется прав — будет прав по-крупному.

Модели последнего поколения уже достаточно умны, но всегда есть к чему стремиться. Например, я чувствую, что меня ограничивает не столько «ум» модели, сколько объём полезного контекста обо мне. Я хочу, чтобы ИИ знал обо мне как можно больше и благодаря этому эффективнее мне помогал. Делал то, что мне не под силу или просто не хочется.

Я не прочитаю каждую ветку в корпоративном Slack. Не ознакомлюсь с каждым письмом клиента о том, где ChatGPT помог, а где подвёл. Не изучу все научные работы. Я физически не могу это сделать.

Но я бы мог завести ИИ-агента, который видит и понимает больше контекста, чем я, больше того, на что у меня есть силы и время, а потом помогает мне принять серьёзное решение релевантным советом. <...>

Мы правильно сделали, что сосредоточились на интеллекте моделей, но со стороны продукта пока мало думали о том, что значит «дать им контекста больше, чем способен удержать человек».

Риски, которые беспокоят меня сильнее всего и при этом немного противоречат друг другу, таковы:

1. ИИ становится настолько могущественным, что мы не можем гарантировать человеку желаемый уровень контроля.
2. Чрезмерная централизация власти в руках одной компании, одного человека или одной модели.

В обоих случаях фундаментальная проблема для меня одна: такое будущее античеловечно.

Верный подход — сказать: мы хотим, чтобы будущее контролировали люди. Дать им больше возможностей и влияния. Люди — смысл всего. <...> Но кто-то занимает обратную позицию: людям нельзя доверять, поэтому мы ограничим и круг тех, кто получит доступ к технологии, и способы взаимодействия с ней. <...>

Если очень упрощать, то идея такая: «Мы дадим лекарство от всех болезней и максимально удешевим товары, но тогда люди должны отказаться от автономии, влияния на будущее и власти». И всё это, конечно же, якобы во имя безопасности и только.

Это античеловечное предложение, но некоторые готовы будут сделать и такое. Наверное, из-за страха. Многих так пугает масштаб ИИ-рисков, что ощущается острая необходимость «защитить» от них целый мир. Просто потому, что эти угрозы не похожи на то, с чем мы имели дело в прошлом. <...>

С одной стороны, я согласен: это мощная технология, и в спорных ситуациях лучше перестраховываться. Однако с тем, что проблема нерешаемая, я бы поспорил. Когда мы только начинали, многие не верили, что мы хоть когда-то создадим AGI, а если и создадим, то точно не сможем гарантировать безопасность. <...> Сейчас же у нас есть то, что многие тогдашние скептики сочли бы похожим на AGI. Конец света тоже не настал, так что прогнозы пора пересмотреть. <...>

Выпуская в свет свои первые модели и ChatGPT, мы знали, что они неидеальны. Но мы также понимали: мир должен получить опыт взаимодействия с технологией, а мы на основе его опыта должны найти способ сделать её безопасной.

Мы не можем бесконечно сидеть в лаборатории и пытаться заранее просчитать все последствия. Всё равно не просчитаем, потому что общество и модели будут эволюционировать вместе. И мы должны проходить этот путь сообща — словно строим совместный продукт.