На конференции MIT «Будущее бизнеса с ИИ» (The Future of Business with AI) Сэму Альтману задали вопрос о том, как он относится к недавнему открытому письму, авторы которого призывают приостановить разработку крупных моделей «мощнее GPT-4». В письме подчеркивались возможные риски для человечества, связанные с появлением непредсказуемых и бесконтрольных ИИ.
По мнению Альтмана, авторы письма «неверно понимают большую часть технических нюансов о том, где нам следует остановиться», и заявил, что в более ранней версии воззвания говорилось, что OpenAI уже тренирует GPT-5. «Мы этого не делаем и не будем еще какое-то время, - сказал он. – Так что в этом смысле вышло немного нелепо».
Однако то, что OpenAI не работает сейчас над следующей, более мощной версией языковой модели, не означает, что компания не расширяет возможности GPT-4 – соблюдая, как настойчиво подчеркивает Альтман, все меры безопасности. «Мы надстраиваем много чего другого поверх GPT-4, что, как я полагаю, полностью отвечает всем важным правилам безопасности и которые начисто отсутствуют в том письме», - сказал он.
Высказывание Альтмана важно с той точки зрения, что озвучивает проблему отсутствия четких критериев измерения прогресса в разработке ИИ. То, что OpenAI сейчас не обучает GPT-5, нельзя считать содержательным утверждением, https://www.theverge.com/2023/4/14/23683084/openai-gpt-5-rum... Verge. Отчасти проблема коренится в обманчивости порядковых номеров, которые присваивают версиям: идее, согласно которой обновления получают новые цифровые обозначения в случае появления существенных улучшений.
Очень часто «новая версия» становится лишь маркетинговым ходом. «Конечно, айфон 35 лучше, чем айфон 34, ведь число больше!», - так рассуждает потребитель.Вместо того, чтобы концентрироваться на порядковых номерах, лучше начать диалог о возможностях систем ИИ, фактических и прогнозируемых. И с этой точки зрения заверения Альтмана о том, что OpenAI не разрабатывает пятую версию GPT вслед за недавно https://hightech.plus/2023/03/15/openai-predstavila-gpt-4---... четвертой, а только вносит улучшения в GPT-4, звучат как казуистика.
О том, что разработка GPT-5 должна завершиться уже в декабре этого года, https://hightech.plus/2023/04/02/gpt-5-uzhe-v-dekabre-sdelae... в начале апреля некий Сики Чен, ссылающийся на своих инсайдеров внутри OpenAI. После этого генеративный ИИ будет невозможно отличить от человека, поскольку он достигнет так называемого искусственного общего интеллекта (AGI).
Свежие комментарии