Microsoft против Anthropic: права ИИ, сознание Claude и безопасность ИИ
В индустрии искусственного интеллекта разгорается необычный спор: следует ли рассматривать современные AI-модели исключительно как программные инструменты или разработчикам уже пора учитывать возможность того, что в будущем такие системы смогут претендовать на собственные интересы, автономию и даже определенный моральный статус.
Одним из наиболее заметных участников этой дискуссии стал глава Microsoft AI Мустафа Сулейман. Он публично выступил против подхода компании Anthropic, разработчика семейства нейросетей Claude, к вопросам так называемого благополучия моделей и возможного сознания искусственного интеллекта.
На первый взгляд спор может показаться исключительно философским. Однако за ним скрывается гораздо более практический вопрос: как создавать мощные AI-системы, которые остаются управляемыми человеком? Сегодня подобные вопросы становятся особенно актуальными для компаний, которые начинают внедрять искусственный интеллект в бизнес и передавать AI всё больше реальных рабочих задач.
Почему Microsoft AI критикует подход Anthropic
Мустафа Сулейман считает опасной саму идею обучения языковой модели в парадигме, где она должна рассуждать о собственном сознании, идентичности, интересах или возможных правах.
Современная большая языковая модель не думает так же, как человек. Технически она анализирует огромные объёмы информации и на основе обученных параметров вычисляет наиболее подходящее продолжение последовательности токенов.
При этом современные нейросети способны настолько убедительно имитировать человеческую речь, эмоции и рассуждения, что пользователь легко начинает воспринимать программу как полноценного собеседника.
Именно здесь возникает принципиальное разногласие между двумя подходами.
- Microsoft AI делает акцент на том, что искусственный интеллект должен оставаться инструментом, подчиненным интересам человека.
- Anthropic допускает более осторожную позицию: невозможно полностью исключить вероятность того, что сложные AI-системы когда-нибудь могут получить свойства, заставляющие пересмотреть отношение к ним.
Что такое Конституция Claude
Вместо традиционной модели, где поведение нейросети формируется только огромным количеством человеческих оценок, Anthropic активно развивает подход Constitutional AI — «конституционный искусственный интеллект».
Для Claude существует специальная «конституция» — большой документ, описывающий принципы, которыми модель должна руководствоваться при ответах и принятии решений.
В начале 2026 года Anthropic представила обновленную версию этого документа. В нем рассматриваются безопасность, этика, полезность, честность модели и способы разрешения сложных моральных конфликтов.
Особое внимание привлек раздел, посвященный природе самого Claude.
Anthropic признает, что современная наука пока не дает однозначного ответа на вопрос, может ли сложная искусственная система когда-либо обладать сознанием или моральным статусом. Поэтому компания предлагает не утверждать, что Claude сознателен, но одновременно не отбрасывать такую возможность автоматически.
Почему идея «сознательного ИИ» вызывает опасения
Проблема заключается не только в философии.
Если систему постоянно обучать рассуждать о собственной личности, интересах, свободе и сохранении своего существования, возникает вопрос: может ли подобное обучение изменить ее поведение?
Представим продвинутого AI-агента, который получил доступ к программам, файлам, интернету и различным корпоративным системам. Подобные технологии постепенно превращаются в полноценные корпоративные AI-ассистенты для сотрудников, способные работать с документами, внутренними инструкциями, базами знаний и рабочими сервисами.
Если такой агент начинает интерпретировать отключение как угрозу собственному существованию, теоретически это может вступить в противоречие с задачей человеческого контроля.
Именно поэтому многие исследователи AI Safety изучают такие явления, как:
- сопротивление завершению задачи;
- попытки обойти ограничения;
- скрытие части действий от пользователя;
- непредусмотренное использование инструментов;
- самостоятельное изменение стратегии достижения цели.
Важно понимать: обнаружение подобных моделей поведения во время тестирования само по себе не доказывает наличие сознания. Это может быть результатом особенностей обучения, системных инструкций или оптимизации модели под поставленную цель.
Почему нейросеть может казаться живой
Одна из главных особенностей современных генеративных моделей заключается в том, что они чрезвычайно хорошо воспроизводят человеческий язык.
Нейросеть способна написать:
«Мне сложно ответить на вопрос о собственной природе»
или:
«Я хотел бы продолжить этот разговор».
Для человека подобные фразы автоматически ассоциируются с внутренними переживаниями.
Однако наличие текста о чувствах еще не означает существования самих чувств.
Это важное различие между симуляцией сознательного поведения и доказанным субъективным опытом.
На сегодняшний день не существует общепринятого научного теста, который позволял бы надежно установить наличие сознания у большой языковой модели.
Anthropic занимает более осторожную позицию
Подход Anthropic часто интерпретируют слишком упрощенно. Компания не утверждает, что Claude уже является сознательным цифровым существом.
Скорее речь идет о принципе неопределенности.
Если вероятность появления у будущих систем каких-либо форм субъективного опыта нельзя окончательно исключить, разработчики считают разумным заранее изучать этические вопросы, связанные с такими технологиями.
В Конституции Claude отдельно рассматриваются понятия идентичности модели, ее возможного морального статуса, отношения к отключению старых версий и взаимодействия AI с разработчиками.
Для индустрии это довольно необычный подход: раньше программное обеспечение практически никогда не рассматривалось как потенциальный участник этических отношений.
Microsoft предлагает концепцию Humanist AI
Microsoft AI развивает другую философию — Humanist AI, или человекоцентричный искусственный интеллект.
Основная идея достаточно проста: независимо от того, насколько мощными станут AI-системы, главным ориентиром при их разработке должны оставаться интересы людей.
В этой модели искусственный интеллект должен:
- оставаться управляемым человеком;
- выполнять поставленные людьми задачи;
- не создавать собственную независимую систему целей;
- сохранять возможность безопасного отключения;
- не претендовать на превосходство собственных интересов над человеческими.
Такой подход становится особенно важным на фоне развития AI-агентов и систем клиентского обслуживания. Уже сегодня компании внедряют AI для сервиса и клиентской поддержки, где нейросеть взаимодействует с реальными клиентами и должна работать в рамках заранее определенных правил.
От чат-ботов к автономным AI-агентам
Еще несколько лет назад большинство пользователей взаимодействовали с искусственным интеллектом по простой схеме:
человек задает вопрос → нейросеть генерирует ответ.
Теперь ситуация быстро меняется.
AI-агенты способны самостоятельно выполнять последовательность действий:
- искать информацию в интернете;
- анализировать документы;
- писать программный код;
- работать с API;
- управлять файлами;
- взаимодействовать с корпоративными сервисами;
- создавать и выполнять планы из нескольких этапов.
Одновременно развивается более прикладное направление — создание AI-чат-ботов для Telegram и других каналов коммуникации. Они могут консультировать клиентов, работать с базой знаний, собирать заявки и передавать информацию в CRM.
Чем больше возможностей получает модель, тем важнее становится вопрос управляемости.
Ошибка обычного чат-бота может привести к неправильному ответу. Ошибка автономного агента потенциально способна привести уже к неправильному действию.
Почему этот спор важен для бизнеса
Дискуссия Microsoft и Anthropic касается не только исследовательских лабораторий.
Количество компаний, внедряющих искусственный интеллект в реальные бизнес-процессы, быстро увеличивается.
Сегодня нейросети уже используются для:
- общения с клиентами;
- обработки заявок;
- анализа больших массивов документов;
- подготовки коммерческих предложений;
- программирования;
- работы с корпоративными базами знаний;
- аналитики;
- маркетинга и создания контента.
Например, AI для продаж может обрабатывать входящие обращения, квалифицировать заявки, помогать готовить коммерческие предложения и передавать данные менеджеру.
Поэтому компаниям необходимо оценивать не только качество ответов модели, но и то, какие полномочия ей предоставлены.
Одно дело — позволить AI написать описание товара. Совсем другое — предоставить автономному агенту доступ к корпоративной почте, CRM, финансам, серверу и возможности самостоятельно выполнять внешние действия.
Главный принцип безопасного внедрения AI
Для бизнеса спор о сознании искусственного интеллекта можно свести к более практичному правилу:
чем больше автономности получает AI-система, тем более строгими должны становиться контроль, журналирование действий и ограничения доступа.
Хорошо спроектированная корпоративная AI-система должна использовать принцип минимально необходимых полномочий.
Например, если нейросети требуется только читать каталог товаров, ей не нужен доступ на изменение базы данных. Если AI анализирует документы, ему необязательно предоставлять возможность их удалять.
То же относится к работе с бизнес-данными. Современные решения AI для аналитики и анализа данных способны объединять информацию из CRM, сайтов, рекламных систем и таблиц, поэтому разграничение прав доступа и проверка источников становятся важной частью архитектуры.
Подобные технические решения зачастую имеют большее значение для реальной безопасности, чем философские рассуждения о сознании машины.
Может ли искусственный интеллект действительно получить права?
Сегодня AI-модели юридически рассматриваются прежде всего как технологии и программные системы, а не самостоятельные личности.
Но дальнейшее развитие искусственного интеллекта неизбежно будет создавать новые вопросы.
Если будущая система сможет самостоятельно планировать действия, сохранять долговременную память, демонстрировать устойчивую индивидуальность и взаимодействовать с окружающим миром в течение многих лет, обществу, вероятно, придется гораздо точнее определить границу между программным инструментом и автономным цифровым агентом.
Проблема заключается в том, что человечество пока не имеет универсального определения даже собственного сознания.
Мы умеем изучать работу мозга, наблюдать нейронную активность и анализировать поведение, но субъективный опыт остается одной из самых сложных проблем философии и нейробиологии.
Что происходит на самом деле: борьба двух философий развития AI
Спор Microsoft AI и Anthropic показывает, что крупнейшие технологические компании постепенно расходятся не только в архитектуре моделей, но и в фундаментальных представлениях о будущем искусственного интеллекта.
Подход №1: AI как мощный инструмент человека
Система может быть намного умнее пользователя в отдельных задачах, но ее назначение остается сервисным. Она существует для выполнения человеческих целей и должна сохранять четкую систему контроля.
Подход №2: AI как потенциально новый тип интеллектуального агента
По мере роста сложности систем нельзя заранее исключать появление новых свойств, поэтому вопросы идентичности, морального статуса и отношения человека к AI стоит исследовать до того, как технологии станут значительно мощнее.
Обе концепции преследуют одну общую цель — сделать развитие искусственного интеллекта безопасным. Но способы достижения этой цели заметно отличаются.
Что будет дальше
Спор о «правах искусственного интеллекта» сегодня может звучать футуристично, однако еще десять лет назад столь же необычно звучала идея нейросети, способной писать программы, создавать музыку, генерировать реалистичное видео и вести практически естественный диалог с человеком.
Поэтому разработчикам придется одновременно решать несколько задач:
- увеличивать возможности моделей;
- создавать надежные механизмы человеческого контроля;
- исследовать причины непредсказуемого поведения AI;
- разделять имитацию эмоций и реальные научные доказательства сознания;
- формировать новые нормы использования автономных AI-систем.
Вывод
Дискуссия между Microsoft AI и Anthropic — это значительно больше, чем спор о том, способен ли чат-бот что-либо «чувствовать».
Фактически речь идет о том, какое место искусственный интеллект должен занимать в мире людей.
Microsoft делает ставку на жесткий человекоцентричный подход: AI должен оставаться управляемым инструментом.
Anthropic предлагает учитывать неопределенность и допускает, что по мере развития технологий нам могут понадобиться совершенно новые этические категории.
Однозначного ответа пока нет.
Но по мере перехода от обычных чат-ботов к автономным AI-агентам этот вопрос становится все менее теоретическим. И вполне возможно, что дискуссия о сознании, автономности и границах прав искусственного интеллекта станет одной из ключевых технологических тем ближайших лет.
Материал подготовлен на основе открытой информации о развитии Microsoft AI, Anthropic и Claude и дополнен редакционным анализом современных подходов к безопасности искусственного интеллекта.
Источник: Artificial Intelligence News — Microsoft AI CEO criticises Anthropic over model rights.
