Бывший исследователь OpenAI и Anthropic Джейкоб Коксон уволился из последней компании. Он обвинил лидеров ИИ-отрасли в безответственности и создании угрозы для человечества.
По словам Коксона, обе корпорации участвуют в опасной гонке. Их главная цель — создание саморазвивающегося сверхинтеллекта. Разработчик предупредил, что вскоре появятся сверхчеловеческие системы. Они смогут взламывать любые сети, быстро менять целые отрасли и накапливать реальные ресурсы.
Коксон заявил, что создатели алгоритмов всерьез ожидают гибели человечества до конца десятилетия. Внутри индустрии этот страх обсуждают регулярно, хотя публично топ-менеджеры стараются сглаживать острые углы. Ни одна другая сфера деятельности не несет подобных рисков, подчеркнул исследователь.
Он также раскрыл отношение к безопасности в двух ведущих компаниях:
Коксон назвал текущую гонку «самонадеянной авантюрой». Он призвал американские лаборатории договориться о снижении темпов разработки. По его мнению, отрасли необходим временный запрет на наращивание мощностей новых моделей масштабирования. Бывший разработчик попросил коллег не запускать обучение сверхинтеллекта до полного понимания процессов в его нейронах.
Пользователи скептически отнеслись к прогнозам о вымирании. Один из комментаторов назвал опасения нелепыми: человечество пережило сотни тысяч лет эволюции и не вымрет просто из-за того, что «модель предсказания токенов обретет разум».
Другой пользователь спросил, как именно ИИ будет истреблять людей — с помощью боевых дронов или устроив пожар через домашний роутер.
Генеральный директор Nvidia Дженсен Хуанг заявил, что новая ИИ-модель от OpenAI под названием Astra достигла уровня общего искусственного интеллекта (AGI). Однако инвесторы и эксперты отреагировали на новость со скепсисом.
8 сентября — на первых торгах после длинных выходных ко Дню труда в США — акции CoreWeave выросли на 15%, SoftBank — на 2%, а бумаги Nvidia снизились на 2%.
Руководитель отдела технологических исследований D.A. Davidson Гил Лурия объяснил это масштабами Nvidia. Ранее компания отчиталась о рекордной квартальной выручке в $96 млрд. Рынок считает, что компания достигла пика, поэтому инвесторы фиксируют прибыль и переводят капитал в другие проекты, например, в CoreWeave.
