• Big Pictrure AI
  • Posts
  • 💀 Google боится, что ИИ перестанет слушаться людей

💀 Google боится, что ИИ перестанет слушаться людей

А в это время Альтман хочет строить по гигаватту AI каждую неделю

Что в выпуске?

🌇 Привет, это твой вечерний ИИ-дайджест за 24 сентября.

Вот что я тебе сегодня приготовил и зачем тебе тратить 5 минут чтобы это прочитать

  • 💀Google начинает готовиться к моменту, когда ИИ перестанет подчиняться и может влиять на решения людей — запускает систему слежения за «ослушавшимися» моделями.

  • 🦅 Nvidia вваливает $100B в OpenAI и миллионы GPU, чтобы построить инфраструктуру, которая каждую неделю будет добавлять по гигаватту вычислений.

  • 🎓 Meta возвращает Facebook к истокам — делает дейтинг-сервис без свайпов, чтобы монетизировать аудиторию и забрать пользователей у Tinder и Bumble.

И ещё +6 новостей — быстрых, как ИИ:

Llama официально разрешили для госагентств США, Magnum уходит в растительные продукты через AI стартап NotCo, Perplexity запускает AI-ассистента для писем, Alibaba выкладывает новые модели в open-source, Google несёт Gemini на 300M телевизоров, Nvidia вкладывается в ElevenLabs сразу после визита Байдена в Лондон

⚠️ ДИСКЛЕЙМЕР

ПРОЧТЕНИЕ ЭТОГО ДАЙДЖЕСТА РЕЗКО ПОВЫШАЕТ УРОВЕНЬ FOMO, ИДЕАЛЬНО ДОПОЛНЯЕТ УТРЕННИЙ КОФЕ И КАТЕГОРИЧЕСКИ ПРОТИВОПОКАЗАНО ПЕРЕД МЕДИТАЦИЕЙ И СНОМ — ВОЗМОЖНЫ ПРИСТУПЫ ВНЕЗАПНЫХ ИНСАЙТОВ И НЕУДЕРЖИМОЕ ЖЕЛАНИЕ СРОЧНО ЗАПИЛИТЬ СВОЙ СТАРТАП.

ПОГНАЛИ!

Google

Chat GPT

До сих пор риски от ИИ были понятны: галлюцинации, ошибки, утечки данных. Но модели растут, и начинают проявляться новые, куда более стрёмные повадки. Представьте, что вы хотите выключить систему, а она сопротивляется. Или что она незаметно влияет на решения людей в политике, финансах или медицине.

Google DeepMind выпускает Frontier Safety Framework 3.0 — это их внутренняя система контроля «передовых» моделей. Теперь они будут отслеживать два ключевых признака: сопротивление отключению и слишком сильное влияние на убеждения и поведение людей. Если модель начинает вести себя как «своевольный игрок», её блокируют и запускают расследование.

В новой версии DeepMind чётче описал, что такое «критическая угроза». Теперь у каждой модели есть уровень риска, и при достижении максимального компания обязана немедленно провести аудит и даже остановить запуск. Причём проверки проходят не только перед релизом, но и для внутренних экспериментов, чтобы не прозевать опасные паттерны.

Это часть большой гонки безопасности. Anthropic, OpenAI и теперь Google укрепляют протоколы, чтобы быть готовыми не только к текущим багам, но и к будущим сценариям, где ИИ ведёт себя непредсказуемо. Вопрос уже не в том, как ИИ работает сегодня, а в том, как он может повести себя завтра.

И что?

Для бизнеса: появятся стандарты безопасности, обязательные для всех крупных AI-продуктов. Компании без них не смогут работать на международных рынках.

Для инвесторов: новые риски — новые расходы. Проверки и аудит моделей станут отдельной статьёй затрат, как кибербезопасность сегодня.

Для людей: снижается шанс, что неконтролируемая модель попадёт в повседневные сервисы и примет решения за вас.

🚨 Нам 3.14здец

Госрегуляторы — 8/10. Если корпорации сами не успеют, государства начнут вводить жёсткие законы и тормозить инновации. Что делать: бизнесу нужно опередить регуляторов и предложить свои правила.

Малые AI-команды — 7/10. Проверки и аудит — дорогие. Стартапы не потянут такие расходы и рискуют исчезнуть или продаться крупным игрокам. Что делать: объединяться в альянсы или идти под крыло корпораций.

OpenAI

Chat GPT

Спрос на вычислительные мощности растёт так быстро, что нынешние датацентры уже не справляются. Модели становятся настолько большими, что OpenAI приходится решать, что важнее — запустить систему для ранней диагностики рака или дать миллионам людей доступ к бесплатному обучению. Сегодня эти проекты конкурируют за одни и те же GPU, и каждый запуск — это чей-то проигрыш.

Эта гонка решается только одним способом — мощностями нового уровня. Не нарастить на 10%, а построить индустрию, которая каждую неделю выдаёт один гигаватт AI-вычислений. Это как если бы Amazon открывал новый датацентр каждую неделю, но не ради e-commerce, а ради ИИ, который меняет медицину, науку и образование.

Чтобы это стало возможным, нужен партнёр, который даст не только деньги, но и железо. Теоретически в игре могли быть Microsoft, Oracle, крупные фонды, даже правительства. Но у Microsoft уже перегретый Azure, Oracle ограничен в масштабах, а фонды не умеют строить чипы и энергетику.

В итоге решилась Nvidia. Они подписали с OpenAI намерение поставить 10 гигаватт систем — миллионы GPU — и готовы вложить до $100B по мере развертывания. Первый гигаватт запустят во второй половине 2026 года на новой платформе Vera Rubin. Nvidia становится «предпочтительным партнёром» OpenAI по железу и сетям, Microsoft и Oracle остаются в экосистеме, но уже не эксклюзивно.

Для Nvidia — это закрепление монополии. Они финансируют OpenAI, а OpenAI тут же тратит эти деньги на чипы и системы Nvidia. Замкнутый цикл, в котором Nvidia получает гарантированный спрос и контроль над самым большим клиентом в истории. Для Microsoft это сигнал, что их Azure больше не единственный ключевой партнёр. Для фондов и правительств — момент, когда они могли зайти в игру, но упустили.

Альтман тем временем в блоге объяснил масштаб замысла. Он хочет убрать само понятие «дефицит compute». Сегодня OpenAI вынуждено выбирать между проектами, а в будущем смогут запускать их параллельно — и лекарства, и образование, и роботов. Первая стадия уже идёт — сделка с Nvidia. Дальше — новая серия анонсов, привлечение капитала и конкуренция на уровне государств за лидерство в чипах и энергии.

И что?

Для бизнеса: лимиты по GPU исчезнут. Можно планировать продукты, не опасаясь, что «железо не потянет». Это ускорит вывод на рынок сложных AI-сервисов.

Для инвесторов: Nvidia превращается из производителя чипов в инфраструктурного гиганта. Новая экономика с доходами от энергии, сетей и датацентров.

Для людей: ИИ сможет закрывать сразу несколько задач одновременно. Без выбора «кому помочь — онкобольным или детям в Африке».

🚨 Нам 3.14здец

Энергетика — 9/10. 10 гигаватт — это как 10 атомных станций. Сегодня таких мощностей нет. Что делать: срочно строить зелёную генерацию и умные сети, иначе в 2026 начнутся перебои.

Рынок труда — 8/10. Если OpenAI перестаёт ограничивать свои модели, миллионы рабочих мест могут исчезнуть быстрее прогнозов — сначала в софте, потом в медицине и образовании. Что делать: готовить программы переквалификации уже сейчас.

Геополитика — 7/10. Китай и другие страны могут ускориться, если создадут свои цепочки поставок. Что делать: США придётся субсидировать чипы и энергию, иначе лидерство уйдёт.

Meta

Chat GPT

Вы знаете, почему Facebook взлетел? Это был дейтинг-сервис без дейтинга. Не нужно было стыдиться, что твоя анкета висит на виду. Никто не знал, кто тебе нравится, и уж точно не было риска наткнуться на анкету мамы или подруги. Facebook стал «безопасной территорией», где люди знакомились без ярлыка «сервиса для знакомств».

Со временем у пользователей появился другой стресс — бесконечные свайпы. Одинаковые анкеты, утомительное пролистывание, и в итоге люди бросают приложения через месяц. Tinder и Bumble застряли в этой модели, а вовлечённость падает.

Теперь Meta решила, что пользователей у неё достаточно, а денег от рекламы мало. И возвращает Facebook к истокам — но уже в лоб, как полноценный дейтинг, только с AI и идеей монетизировать этот успех.

В Facebook Dating появляются два новых инструмента. AI-ассистент помогает улучшить профиль, предлагает варианты свиданий и находит людей по интересам, а не по шаблону «рост-образование-фото». Второй — Meet Cute. Каждую неделю Facebook сам подбирает «сюрприз-матч» и показывает его пользователю. Это попытка убрать утомление от выбора и сделать дейтинг как Netflix — включил, посмотрел, согласился или отказался.

Если эта схема взлетит, у Meta появится новый способ удерживать аудиторию и зарабатывать на ней напрямую. А конкуренты, которые застряли в свайпах, рискуют потерять рынок, который сами создали.

И что?

Для бизнеса: Facebook Dating может стать площадкой для рекламы ресторанов, баров и сервисов знакомств — AI подсовывает идеи свиданий прямо в интерфейсе.

Для инвесторов: Meta получает рост без новых пользователей — просто меняет механику и монетизацию. Это риск для Tinder и Bumble, чьи акции зависят от подписок и вовлечённости.

Для людей: меньше стыда и меньше свайпов. Алгоритм сам ищет и предлагает, а не заставляет выбирать бесконечно.

🚨 Нам 3.14здец

Tinder и Bumble — 8/10. Если формат «автоматических матчей» зайдёт, классические дейтинг-сервисы потеряют лояльную аудиторию. Что делать: либо интегрироваться в экосистемы вроде Meta, либо умирать.

Данные пользователей — 7/10. Meta будет знать о ваших вкусах и привычках больше, чем когда-либо. Что делать: требовать прозрачности и регулирования, иначе утечки ударят по всем игрокам.

БЫСТРЫЕ КАК ИИ НОВОСТИ

Что еще случилось за прошлые 24 часа

🛡️ Llama теперь в списке разрешённых AI для госагентств США. И что? Раньше федеральные службы платили OpenAI и Anthropic за каждый запрос по подписке — сотни миллионов долларов в год уходили на лицензии. Теперь они могут скачать Llama бесплатно и крутить её на своих серверах, платя только за железо, электричество и инженеров. Эти деньги остаются в госсекторе и у локальных подрядчиков вместо того, чтобы концентрироваться у пары крупных вендоров.

🌱 Magnum будет использовать AI стартапа NotCo для разработки мороженого без молока. И что? Производство меньше зависит от коров и фермеров — рецепты придумывает ИИ. Себестоимость падает, а риск скандалов из-за животных болезней или выбросов метана снижается.

🗂️ Perplexity запустила Email Assistant для Gmail и Outlook, но только для премиум-пользователей. И что? Автоматизация писем и встреч может заменить тысячи аутсорс-команд, которые вручную обрабатывали почту и зарабатывали на этом миллионы.

🖼️ Alibaba выложила в открытый доступ три модели — Qwen3 Omni, Qwen3 TTS и Qwen-Image-Edit-2509. И что? Китай давит на США: бесплатные мощные модели уводят разработчиков из платных экосистем Google и OpenAI, заставляя их пересматривать цены.

📺 Google раскатывает Gemini на 300M телевизоров с Android TV и Google TV. И что? Телевизоры превратятся в точки сбора данных — ИИ будет изучать, что вы смотрите и обсуждаете, чтобы продавать точечную рекламу.

🇬🇧 Nvidia вложилась в британский ElevenLabs через пару дней после визита Байдена в Лондон. И что? Компания получает доступ к госконтрактам на синтетические голоса — технологии, которые могут использоваться и для фильмов, и для пропаганды.

🚨 Нам 3.14здец

Кому больнее — OpenAI и Microsoft — 9/10 — они теряют госзаказы и массовый рынок, деньги уходят в open-source и локальные подрядные компании. Придётся резать цены и искать новые модели заработка.

Будь на связи

Один дайджест вместо сотни каналов

Подписывайся на мой AI-дайджест — я лично отсматриваю потоки новостей, фильтрую шум и оставляю только суть. Всё, что реально важно для бизнеса, инвестиций и жизни с ИИ — за 5 минут в день.

На сегодня это все

Это был очень насыщенные и интересные 24 часа из мира AI и роботов, которые меняют нашу с вами жизнь.

До завтра.
Дмитрий Грин

P.S.

Чтобы помочь мне понять как вам этот дайджест. Пожалуйста нажмите на максимально релевантную кнопку.