Womenis.ru Для современной Женщины с большой буквы
Компания OpenAI опубликовала новый документ под названием «Наши принципы», представленный Сэмом Альтманом. На первый взгляд, это обычное обновление корпоративного манифеста, однако при более детальном изучении он выявляет существенные изменения в стратегическом подходе компании.
Сдвиг в приоритетах: от универсального ИИ к массовому внедрению
Одной из наиболее примечательных особенностей нового документа, по сравнению с предыдущими заявлениями и блогами Сэма Альтмана, является заметное снижение акцента на разработке универсального искусственного интеллекта (AGI), который способен выполнять любую интеллектуальную задачу, доступную человеку. Достижение AGI для блага человечества изначально было главной целью создания OpenAI. Однако в новом документе упоминания об AGI стали гораздо более редкими, уступая место обсуждению более широкого внедрения ИИ.
Одиннадцать месяцев назад Альтман гораздо более решительно высказывался об AGI. В своем блоге он писал: «Мы прошли горизонт событий; взлет начался. Человечество близко к созданию цифрового суперинтеллекта, и, по крайней мере пока, это гораздо менее странно, чем должно было бы быть». Перечитывая те заявления, создается впечатление, что AGI должен был появиться в любой момент. В сравнении с последним документом, язык заметно смягчился. Если «взлет» и начался, то, похоже, ракета AGI всё ещё находится на стартовой площадке.
Преимущества и риски: взгляд на будущее ИИ
Хотя в документе подчеркиваются широкие преимущества ИИ — «многие вещи, о которых мы могли только мечтать в научной фантастике, могут стать реальностью», — Альтман также признает, что эти благоприятные исходы не гарантированы.
По мнению Альтмана, «власть в будущем может либо находиться в руках небольшой горстки компаний, использующих и контролирующих суперинтеллект, либо быть децентрализованной, распределенной среди людей. Мы считаем, что последнее гораздо лучше, и наша цель — передать по-настоящему универсальный ИИ в руки как можно большего числа людей».
Позднее в документе поднимаются более серьезные опасности, связанные с ИИ, в частности, в отношении патогенов. Отмечается: «Ни одна лаборатория ИИ не может в одиночку обеспечить хорошее будущее. Например, могут появиться чрезвычайно мощные модели, которые облегчат создание нового патогена, и нам нужен общественный подход для защиты от этого с помощью универсальных контрмер».
Противоречия в стратегическом подходе
Несмотря на изначально декларируемый в документе коллаборативный подход и многочисленные заявления о передаче ИИ в руки каждого — «Мы хотим будущего, где каждый может жить отличной жизнью», — возникает вопрос о практической реализации этих амбиций.
Альтман говорит о распространении, что на практике обычно означает более быструю поставку, интеграцию в большее количество продуктов и охват большего числа пользователей — всё то, что определяет конкуренцию в сфере технологий. Для реализации этого, похоже, OpenAI придется стать еще более конкурентоспособной.
Когда Альтман заявляет: «Мы будем быстро учиться и корректировать курс», — это подразумевает быструю разработку, обучение, улучшение и повторение, что несколько диссонирует с сильным акцентом нового документа на безопасности. Даже утверждение «Мы заслуживаем огромного внимания и проверки» — на первый взгляд звучит смиренно, но стратегически может быть истолковано как готовность OpenAI публично обосновывать свои решения, что является типичной реакцией компаний в условиях возрастающего контроля.
Чем глубже погружаешься в документ, тем противоречивее он кажется. Безопасность подразумевает сдержанность и обдуманность, тогда как масштабирование требует скорости и итерации. Аналитики отмечают, что после прочтения документа остается неясность относительно подлинных принципов OpenAI. Принципы должны быть ясными и недвусмысленными, в то время как этот документ выглядит более мягким и гибким, предоставляя компании больше пространства для маневра, чем ранее.