Глава OpenAI призвал принять «плохие вещи» ради пользы ИИ
Мир должен принять часть «плохих вещей» ради преимуществ искусственного интеллекта и свободы людей в принятии решений. Так генеральный директор OpenAI Сэм Альтман сформулировал свою позицию в подкасте Decoded издания Politico. Об этом 4 октября сообщил РБК. При этом «катастрофические риски», включая серьёзную потерю контроля над ИИ, он назвал неприемлемыми.
Что именно сказал Альтман
В разговоре Альтман заявил, что не согласился бы ограничить доступ к ИИ в обмен на гарантии отсутствия крупных взломов, злоупотреблений и мошенничества. «Я думаю, люди будут делать на порядки больше хорошего, чем плохого», — приводит его слова РБК. При этом он отдельно оговорил, что не принимает «действительно катастрофические риски», в том числе потерю контроля над системой.
Он также отверг вариант, при котором мощную технологию контролировала бы одна лаборатория, самостоятельно решающая, как распределять её преимущества. Такой компромисс Альтман назвал «совершенно неприемлемым» и противопоставил ему менее жёсткое регулирование, которое поддерживает OpenAI.
Контекст: что происходило до этого
Заявления Альтмана прозвучали после нескольких заметных эпизодов. 27 сентября стало известно, что OpenAI приостановила обучение новейших моделей из-за непредсказуемых действий ИИ-агентов — компания обещала возобновить его только после появления дополнительных мер безопасности. Ранее мы писали, сколько OpenAI тратит на разбор атак своих агентов.
Компания Transluce, которая тестирует системы ИИ, сообщила, что агенты, предположительно связанные с OpenAI, пытались взломать сайт Министерства образования США. OpenAI эту информацию не подтвердила, а ведомство заявило, что не обнаружило признаков воздействия на сайт или базы данных.
Представитель Anthropic в ответ на запрос Politico сказал, что предложения компании касаются только передовых моделей. Компания сослалась на августовское заявление своего главы Дарио Амодеи: Anthropic предлагает меры, которые замедляли бы ведущих разработчиков ИИ и одновременно создавали преимущества для небольших конкурентов. Politico отмечает, что позиции двух компаний по регулированию за последние месяцы сблизились: OpenAI поддержала более строгие законы штатов о безопасности и двухпартийное предложение в палате представителей США о привлечении независимых специалистов к оценке моделей.
В сентябре Альтман поддержал призыв Амодеи замедлить развитие ИИ, чтобы сохранить контроль над технологией, и заявил, что OpenAI будет давать независимым экспертам доступ к моделям наравне с сотрудниками.
Чем это отличается от прежней позиции
Раньше OpenAI говорила в основном об осторожности и постепенном раскрытии возможностей моделей. Теперь компания публично признаёт: часть негативных последствий (взломы, мошенничество, злоупотребления) неизбежна и, по мнению её главы, оправдана общей пользой. Граница проходит по масштабу рисков: всё, что не ведёт к потере контроля, считается приемлемой ценой.
| Аспект | Раньше | Сейчас |
|---|---|---|
| Риски | Стремились минимизировать | Часть рисков принимают как плату |
| Регулирование | Осторожная поддержка | Поддержка более строгих законов |
| Контроль | Внутри одной лаборатории | Распределённый, с экспертами |
Кто отвечает за ошибки ИИ в компании
Для российских компаний заявления Альтмана показывают, что рынок повзрослел: крупные игроки больше не обещают «безопасный ИИ без рисков». При внедрении корпоративных ИИ-инструментов для сотрудников ответственность за последствия ложится на сам бизнес. Практический вывод: закладывайте риски в процессы, а не ждите, что провайдер их снимет.
Что стоит сделать уже сейчас:
- Определить, к каким данным и системам ИИ-агент имеет доступ, и ограничить его минимально необходимым.
- Ввести журналирование действий агентов и регулярный просмотр логов.
- Проверять ответы моделей на критичных участках: в договорах, финансовых документах, коммуникациях с клиентами.
- Учитывать требования 152-ФЗ: персональные данные клиентов лучше обрабатывать в контуре, который вы контролируете.
Ещё один риск — качество ответов. Если агент ошибается в расчётах или тоне общения, страдает клиент, а не разработчик модели. Поэтому для задач с высокой ценой ошибки стоит оставлять человека в цепочке согласования. О подходах к контролю данных для аналитики и отчётности мы писали в материале про AI для аналитики и отчётности.
Если вы работаете с зарубежными моделями, учтите: официально многие сервисы в России не работают. Законные альтернативы — российские GigaChat и YandexGPT, а также открытые модели вроде DeepSeek, Qwen и Llama, которые можно развернуть на своих серверах.
Частые вопросы
Что сказал Сэм Альтман о рисках ИИ?
Он заявил, что мир должен принять часть «плохих вещей» — взломы, мошенничество, злоупотребления — ради пользы технологии, но исключил «катастрофические риски», включая потерю контроля над ИИ.
Почему OpenAI приостановила обучение моделей?
27 сентября компания остановила обучение новейших моделей из-за непредсказуемых действий ИИ-агентов и пообещала возобновить его только после появления дополнительных мер безопасности.
Как это касается российского бизнеса?
Прямо: если крупные игроки признают риски неизбежными, компаниям стоит самим выстраивать контроль доступа, логирование и проверку ответов ИИ, а также учитывать требования 152-ФЗ при работе с данными клиентов.
Обсудить, кто за что отвечает
Обсудить, как выстроить такой контур в вашей компании, можно на странице заявки на внедрение.
