Критики ИИ правы: 6 претензий - и что они значат для бизнеса
Критиков у ИИ хватает: один говорит про угрозу человечеству, другой - про лопнувший пузырь инвестиций, третий - про испорченные от постоянного использования мозги. Обычно бизнес выбирает одну из двух реакций: отмахнуться от критики как от хайпа или испугаться и отложить любое внедрение на неопределённый срок. Мы прочитали шесть самых обоснованных претензий к ИИ, проверили каждую цитату по первоисточнику и разложили, в чём критик прав - и что из этого реально следует для компании, которая решает, вкладываться в ИИ или нет. Ни один вывод здесь не сводится к простому «ИИ - зло» или «ИИ - панацея».
Зачем бизнесу вообще слушать критиков ИИ?
Коротко: сильная критика ИИ обычно указывает на разрыв между обещанием и ответственностью - на слишком быстрое внедрение без проверки, без расчёта экономики, без человека, который отвечает за результат. Разобрать шесть претензий полезно, чтобы понять, где именно вашей компании стоит подстелить соломку до внедрения, а не после.
У большинства громких критиков ИИ общий узор. Джеффри Хинтон говорит про риск потери контроля над технологией. Goldman Sachs - про разрыв между расходами на ИИ и доказанной отдачей от них. Ноам Хомский и Эмили Бендер - про разрыв между тем, как ИИ имитирует речь, и тем, понимает ли он хоть что-то по существу. Наталья Касперская и Игорь Ашманов - про разрыв между тем, как ИИ внедряют в компаниях, и тем, кто в итоге отвечает за результат. Никто из них не призывает выкинуть ИИ на помойку. Каждый указывает на конкретное место, где технология обгоняет ответственность за неё.
Дальше - шесть цитат по порядку, с прямыми ссылками на источник и честной business-проверкой каждой.
Почему Хинтон бьёт тревогу после ухода из Google?
Коротко: Джеффри Хинтон, один из создателей современного глубокого обучения, ушёл из Google, чтобы свободно говорить о рисках ИИ, а не чтобы критиковать бывшего работодателя. Он считает риск потери контроля над технологией достаточно серьёзным, чтобы обсуждать его публично - это позиция человека, который строил эту технологию, а не сюжет фантастического фильма.
«Я бью тревогу, говорю, что нам нужно об этом беспокоиться» (в оригинале: «I’m sounding the alarm, saying we have to worry about this»).
- Джеффри Хинтон, конференция EmTech Digital, цитата по MIT Sloan (2023), mitsloan.mit.edu
«Вполне возможно, что человечество - всего лишь проходящая фаза в эволюции интеллекта» (в оригинале: «I think it’s quite conceivable that humanity is just a passing phase in the evolution of intelligence»).
- Джеффри Хинтон, там же
В одном из недавних интервью для подкаста Diary Of A CEO выпуск был упакован вокруг цифры «около 20% шанса», что ИИ приведёт к вымиранию человечества. Доступный источник - описание эпизода на платформе подкастов, а не стенограмма с точным контекстом, поэтому цифру стоит воспринимать как ориентир из публичного интервью, а не как строгий научный консенсус.
Для бизнеса это работает иначе, чем «готовьтесь к восстанию машин». Даже человек, который стоял у истоков технологии, включает риск потери контроля в список серьёзных управленческих рисков, а не в список сюжетов для кино. Практический вывод простой: вопрос «кто проверяет систему и кто отвечает за её ошибку» стоит закладывать в процесс внедрения так же, как финансовый или юридический риск. Автономность системы растёт быстрее, чем контроль над ней, если этот контроль не выстроен заранее.
Куда делся триллион долларов, который Goldman Sachs обещал ИИ?
Коротко: в отчёте Top of Mind Goldman Sachs прямо пишет, что технологические компании готовятся потратить около триллиона долларов на инфраструктуру ИИ, но пока эти траты почти нечем подтвердить экономически. Для бизнеса вывод простой: требовать от любого внедрения ИИ ответа на вопрос, какую именно измеримую проблему оно решает.
«Технологические гиганты и смежные отрасли готовятся потратить около триллиона долларов на капитальные расходы в ближайшие годы… но пока эти траты почти нечем подтвердить» (в оригинале: «Tech giants and beyond are set to spend an estimated ~$1tn on capex in coming years… But this spending has little to show for it so far»).
- Goldman Sachs, Top of Mind #129 (2024), goldmansachs.com
Внутри того же отчёта экономист Джим Ковелло прямо спрашивает, какую проблему стоимостью в триллион долларов должен решить генеративный ИИ, а экономист Дарон Аджемоглу указывает на ограниченный краткосрочный эффект генеративного ИИ на производительность труда. Goldman Sachs не говорит, что ИИ бесполезен - банк ставит вопрос о несоответствии между масштабом инвестиций и уже доказанной отдачей.
Для директора среднего бизнеса это переводится просто: если крупный инвестиционный банк требует считать окупаемость вложений в ИИ, вашей компании тем более нельзя покупать AI-решение по принципу «все внедряют, и мы должны». Разумный порядок другой: сначала считаете, сколько стоит процесс сейчас и сколько будет стоить с ИИ, потом внедряете.
Здесь та же логика, что и в разведке конкурентов: прежде чем что-то менять в бизнесе, мы сначала смотрим на проверяемые цифры, а не на общие ощущения о рынке. Конкурентная разведка устроена именно так - цены, реклама, отзывы конкурентов и SEO-точки входа с источником на каждую цифру, а не пересказ «на глаз».
ИИ понимает язык - или просто удачно его имитирует?
Коротко: Эмили Бендер называет языковые модели «стохастическими попугаями» - системами, которые собирают правдоподобный текст без обращения к смыслу. Ноам Хомский формулирует похожую мысль иначе: ум человека не работает как статистическая машина для сопоставления паттернов. Для бизнеса разница между формой и пониманием означает, что LLM хорош как черновик и подсказка, но плох как замена суждения человека, который отвечает за решение.
«Языковая модель - это система, которая беспорядочно сшивает последовательности языковых форм… без всякой отсылки к смыслу: стохастический попугай» (в оригинале: «An LM is a system for haphazardly stitching together sequences of linguistic forms… without any reference to meaning: a stochastic parrot»).
- Эмили Бендер, Тимнит Гебру, Анджелина Макмиллан-Мейджор, Шмаргарет Шмитчелл, статья на конференции ACM FAccT (2021), archive.org (ACM FAccT)
Бендер в 2026 году отдельно уточнила формулировку, потому что фраза стала расходиться без контекста:
«Я никогда не говорила и никогда не скажу, что “ИИ” - это стохастический попугай. Я вообще не принимаю слово “ИИ” как способ описания этих технологий» (в оригинале: «I have never and will never say that ‘AI’ is a stochastic parrot, because I reject ‘AI’ as a way to describe technologies»).
- Эмили Бендер, Medium (2026), archive.org (Medium)
Это значит, что критика Бендер и соавторов метит в конкретные большие языковые модели и в маркетинг вокруг них, а не в любую автоматизацию вообще - переносить её на «весь ИИ бесполезен» некорректно.
Хомский формулирует смежный тезис жёстче:
«Человеческий ум - это не громоздкий статистический движок для сопоставления паттернов, каким являются ChatGPT и подобные системы» (в оригинале: «The human mind is not, like ChatGPT and its ilk, a lumbering statistical engine for pattern matching»).
- Ноам Хомский, Иэн Робертс, Джеффри Ватумулл, The New York Times, «The False Promise of ChatGPT» (2023), archive.org (NYT)
«Хомский считает использование ChatGPT по сути высокотехнологичным плагиатом и способом избежать обучения» (в оригинале: «Chomsky sees the use of ChatGPT as “basically high-tech plagiarism” and “a way of avoiding learning”»).
- Ноам Хомский, по изложению Open Culture (2023), openculture.com
Практический вывод для компании: если сотрудник передаёт модели сам акт мышления - формулировку стратегии, оценку риска, финальное решение - он получает обход самой работы вместо её ускорения. Хорошая роль LLM в процессе - черновик, поиск формулировок, структурирование; плохая роль - замена человека, который проверяет и подписывается под результатом.
Наталья Касперская: во что превращается ИИ, когда в него загружают данные компании?
Коротко: глава InfoWatch Наталья Касперская предупреждает, что языковые модели могут стать прямым каналом утечки данных, когда сотрудник добровольно загружает в чат-бот рабочую информацию. Для бизнеса вывод практический: нужна явная политика, что сотрудникам можно вставлять в публичные ИИ-сервисы, а что нельзя, - вне зависимости от того, разделяете вы остальные взгляды Касперской или нет.
«Человечество сейчас находится только на этапе осознания рисков искусственного интеллекта. И я уверена - нам предстоит много открытий» (дословная цитата).
- Наталья Касперская, ТАСС (2025), archive.org (ТАСС)
«LLM может стать прямым каналом утечки информации, когда человек добровольно загружает свои данные» (дословная цитата).
- Наталья Касперская, там же
Здесь обязательна оговорка. Та же публикация ТАСС фиксирует, что вся линейка защиты данных InfoWatch - продукты на базе искусственного интеллекта. Касперская говорит о рисках ИИ с позиции главы ИБ-вендора с прямым коммерческим интересом в теме защиты от утечек, а не с позиции нейтрального стороннего наблюдателя. Саму цитату про канал утечки это не обесценивает - она разумна и легко проверяется здравым смыслом. Честнее подавать её как предупреждение ИБ-предпринимателя, а формулировку «наука доказала, что ИИ опасен» здесь лучше не использовать вовсе.
Для бизнеса из этого следует конкретное действие: составить короткий список данных, которые сотрудникам нельзя вставлять в публичные ИИ-чаты (клиентские базы, финансовые показатели, договоры), и объяснить эту границу так же прямо, как правила доступа к почте или CRM.
Игорь Ашманов: кто в итоге отвечает за «текстовый шлак»?
Коротко: IT-предприниматель Игорь Ашманов формулирует управленческую претензию к ИИ жёстче большинства: генеративный ИИ, по его словам, во многом создан для имитации работы, а мозг человека, который им злоупотребляет, перестаёт мыслить и начинает «достраивать тексты». При этом сам Ашманов уточняет: ИИ никого не увольняет - решения об увольнениях принимают управленцы.
«Генеративный ИИ во многом создан для имитации работы» (дословная цитата).
- Игорь Ашманов, ФедералПресс (2026), fedpress.ru
«Мозг человека, который часто пользуется генеративным ИИ, начинает не мыслить, а достраивать тексты, производить гладкий текстовый шлак» (дословная цитата).
- Игорь Ашманов, АиФ (2025), aif.ru
«Искусственный интеллект сам никого не увольняет, не крадёт рабочие места» (дословная цитата).
- Игорь Ашманов, Зиновьев.Инфо (2021), zinoviev.info
Здесь тоже нужна оговорка: это экспертная позиция IT-предпринимателя, который работает на рынке аналитики и мониторинга, а не опубликованное клиническое исследование или единый научный консенсус.
При этом фраза про имитацию работы точно попадает в реальную проблему компаний, которые внедряют ИИ без процесса проверки. Плохой AI-процесс создаёт видимость отчёта, стратегии или аналитики: документ выглядит завершённым, цифры выглядят убедительно, а проверку содержания ИИ перекладывает на руководителя. Ашманов прав ровно в одном: за сокращениями стоит решение управленца использовать ИИ вместо контроля - технология сама по себе такого решения не принимает.
Что общего у всех шести претензий?
Коротко: ни один из шести критиков не спорит с фактом автоматизации как таковым - каждый указывает на конкретный разрыв между тем, что ИИ обещает, и тем, кто отвечает за результат.
| Критик | Против чего именно | Разрыв |
|---|---|---|
| Джеффри Хинтон | Гонка мощности без контроля | Скорость развития против скорости управления рисками |
| Goldman Sachs | Инвестиции без доказанной отдачи | Capex против измеримого ROI |
| Ноам Хомский, Эмили Бендер | Продажа формы как понимания | Языковая форма против смысла и суждения |
| Наталья Касперская | Внедрение без политики данных | Удобство сервиса против утечки информации |
| Игорь Ашманов | Внедрение без ответственного человека | Видимость работы против реальной проверки |
Мы уже писали о похожей асимметрии применительно к самим агентным системам: модель - это товар, а вот харнесс вокруг неё - память, роли, процессы - решает больше, чем выбор модели. Критика шести экспертов - тот же принцип с другой стороны: сама по себе модель не бывает ни опасной, ни бесполезной сама по себе. Опасным или бесполезным становится процесс, в который её встроили без проверки, без экономики и без человека, который отвечает за итог.
Что бизнесу делать с этой критикой на практике?
Коротко: собранная критика превращается в рабочий чек-лист для любого AI-проекта - четыре простых вопроса, которые стоит задать перед внедрением или во время него.
Прежде чем запускать очередной AI-процесс в компании, полезно пройти по короткому списку:
- Какую измеримую проблему решает этот процесс - и как вы поймёте, что она решена (проверка от Goldman Sachs).
- Кто именно проверяет результат ИИ перед тем, как он уйдёт клиенту, партнёру или в отчёт руководству (проверка от Ашманова и Хомского).
- Какие данные сотрудникам разрешено, а какие запрещено вставлять в публичные ИИ-сервисы (проверка от Касперской).
- Кто несёт ответственность, если система ошибётся, и как быстро это заметят (проверка от Хинтона).
Мы в AI-Штабе строим систему именно вокруг этого принципа: человек в контуре решает финальный вопрос, агент готовит, а не решает вместо вас, и данные компании остаются в вашей собственной инфраструктуре, а не в чужом облаке. Это не отменяет саму критику ИИ - это способ ответить на неё внедрением, а не запретом. Если вы директор и хотите для начала увидеть просто факты о своём рынке без риска утечки данных или красивой, но непроверяемой аналитики, разберитесь, как мы внедряем команды ИИ по шагам или начните с малого - с одного проверяемого отчёта.
Источники
- Sara Brown. «Why neural net pioneer Geoffrey Hinton is sounding the alarm on AI». MIT Sloan (2023). mitsloan.mit.edu
- The Diary Of A CEO. «Godfather of AI: I Tried to Warn Them, But We’ve Already Lost Control». Apple Podcasts (2025). podcasts.apple.com
- Goldman Sachs. «Gen AI: too much spend, too little benefit?». Top of Mind #129 (2024). goldmansachs.com
- Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell. «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?». ACM FAccT (2021). archive.org (ACM FAccT)
- Emily M. Bender. «Stochastic Parrots: Frequently Unasked Questions». Medium (2026). archive.org (Medium)
- Noam Chomsky, Ian Roberts, Jeffrey Watumull. «The False Promise of ChatGPT». The New York Times (2023). archive.org (NYT)
- Open Culture. «Noam Chomsky on ChatGPT: It’s Basically High-Tech Plagiarism and a Way of Avoiding Learning» (2023). openculture.com
- ТАСС. «Касперская: риски искусственного интеллекта еще только предстоит изучить» (2025). archive.org (ТАСС)
- АиФ. «Эксперт Ашманов рассказал, что применение ИИ может быть опасным для мозга» (2025). aif.ru
- Станислав Литвинов. «Игорь Ашманов о внедрении ИИ: Тот, кто будет препятствовать бездумному внедрению, настоящий патриот». ФедералПресс (2026). fedpress.ru
- Зиновьев.Инфо. «Игорь Ашманов о борьбе России за цифровой суверенитет и философе Александре Зиновьеве» (2021). zinoviev.info
Полная картина по рынку и конкурентам - за один заход. Конкурентная разведка от AI-Штаба: цены, реклама, отзывы и SEO-точки входа конкурентов, с источником на каждую цифру - тот же принцип проверки, который мы просим применять и к самому ИИ.