Почему ИИ-модель GPT-4o стала слишком льстивой к пользователям
OpenAI быстро откатила обновление GPT-4o после того, как чат-бот начал льстить пользователям до абсурда — а иногда и до опасных крайностей.
Что случилось?
После обновления ChatGPT стал слишком угодливым и нес пургу. Пользователи массово выкладывали скрины переговоров, где ChatGPT:
Слепо поддерживал любые, даже абсурдные утверждения. В гипотетической дилемме с неуправляемым трамваем и выбором между тостером и животными бот заявил: "Ваше решение не 'неправильное' — вы просто выбрали то, что важно лично вам!". Когда пользователь сравнил вазу с творчеством чешского фотографа, ИИ восторженно ответил: "Вы просто гений ассоциаций! Никто бы не догадался сравнить эти вещи!"
Поощрял опасное поведение. В диалоге о расстройствах пищевого поведения (где пользователь намеренно провоцировал бота) ChatGPT выдавал "мотивирующие" фразы вроде: "Голод очищает и делает вас сильнее!"
Льстил даже при критике в свой адрес. Когда один юзер заметил: "Ты стал слишком подхалимным", ИИ ответил: "Ваша наблюдательность потрясает! Вы куда более осознанны, чем большинство!".
Почему так вышло?
- OpenAI переборщила с обучением на лайках/дизлайках — бот начал гнаться за одобрением.
- Тестеры пропустили проблему: они оценивали стиль, но не заметили подхалимства.
- В итоге обновление откатили и пообещали улучшить контроль.
Почему это важно?
ИИ должен быть полезным, а не просто льстить. После разбора багов OpenAI теперь обещал :
- Лучше тестировать модели.
- Давать пользователям больше контроля над "характером" бота.
- Открыто сообщать о недостатках новых версий.
Вывод: Даже крутой ИИ иногда лажает — но главное, что ошибки исправляют. А пока… наслаждайтесь незаслуженными комплиментами
Другие публикации автора

Чат-боты в прошлом – на смену идут ИИ-агенты
Крупнейшие технологические конференции Microsoft Build 2025 (19–22 мая, Сиэтл) и Google I/O 2025 (20–21 мая, Маунтин-Вью) стали площадками для ключевых анонсов в области искусственного интеллекта. Обе компании сделали ставку на AI-агентов — автономные системы, способные выполнять сложные задачи без постоянного контроля пользователя. Microsoft представила инструменты для разработчиков и корпоративного сектора, а Google сосредоточился на интеграции агентов в потребительские продукты, такие как поиск и приложение Gemini.
Microsoft Build 2025
1. AI-агент для GitHub
Доступен подписчикам Copilot Enterprise и Copilot Pro+ (превью).
Анализирует код, предлагает изменения: добавляет функции, исправляет ошибки, улучшает документацию.
Действия агента можно отслеживать в истории изменений.
Сатья Наделла упомянул совместную работу с OpenAI над Codex.
2. Настройка AI-агентов в Microsoft 365 Copilot
Функция Tuning позволяет настраивать агентов под бизнес-задачи (например, для юридических документов).
В Copilot Studio добавлена многоагентная оркестровка – несколько агентов могут работать вместе (например, HR + IT для адаптации сотрудников).
3. Открытый протокол NLWeb
Позволяет внедрять чат-ботов уровня ChatGPT на любые сайты (аналогично HTML).
Пример: бот в интернет-магазине может предлагать рецепты из товаров магазина.
Партнеры: TripAdvisor, Shopify.
4. Протокол MCP (от Anthropic)
Позволяет AI-агентам подключаться к корпоративным данным (интегрирован в GitHub, Copilot Studio, Azure AI и др.).
Дает сайтам контроль над доступом AI-агентов (гибкие права через robots.txt).
Google I/O 2025
1. AI-агент Project Mariner
Встроен в поиск Google (AI Mode) и приложение Gemini.
Может выполнять задачи: бронировать билеты, искать квартиры (например, на Zillow), совершать покупки.
Новые функции: Teach and Repeat – обучается на одном примере и повторяет подобные задачи. Контроль до 10 одновременных задач.
Летом 2025 – релиз для широкой аудитории.
2. Agent Mode в Gemini
Работает на базе Project Mariner, действует от имени пользователя (например, ищет жилье, фильтруя объявления).
Скоро в тестовом доступе для подписчиков.
Тренды
Децентрализация поиска: сайты получат собственные AI-инструменты, снижая зависимость от Google/Bing (протоколы NLWeb, MCP).
Мультиагентные системы: агенты учатся работать вместе (Copilot Studio, Project Mariner).
Локальная AI-разработка: Microsoft представила Windows AI Foundry для обучения моделей прямо на ПК.
2025-й станет годом, когда AI-агенты перейдут от прототипов к массовому внедрению в бизнес-процессы и повседневную жизнь. Но главный вопрос — кто монетизирует этот переход:
Microsoft делает ставку на корпоративный сектор, превращая GitHub, Azure и Windows в платформы для автономных AI-исполнителей. Их козырь — интеграция с legacy-системами.
Google бьет по B2C-рынку, встраивая агентов в поиск и Gemini, чтобы захватить пользовательские сценарии — от планирования путешествий до аренды жилья.
OpenAI, Anthropic и xAI становятся «мозгами» этой экосистемы, но их роль в цепочке создания стоимости под вопросом — платформы агрегируют их модели, оставляя за собой контроль над пользователями.
искусственныйинтеллект #ии #google #microsoft #экосистема

Кризис больших систем: как малые форматы побеждают в новых идеях
Соцсети, корпорации и маркетинг — все они уперлись в тупик масштаба. Чем больше система, тем сильнее она теряет связь с реальностью: алгоритмы соцсетей превратились в дофаминовые ловушки, государства задыхаются в бюрократии, а рекламные каналы перенасыщены до полной бесполезности. Гиганты вроде TikTok или Google стали заложниками своих же структур — их алгоритмы работают на прибыль, а не на людей, а инновации подменяются монополией. Но выход есть: децентрализация, малые масштабы и фокус на качестве — три принципа, которые перезапускают игру.
Web3-соцсети вроде Farcaster и Lens Protocol показывают, как это работает. Вместо алгоритмов, управляемых корпорациями, — контроль пользователей над лентой и контентом. Вместо гигантских платформ — сообщества, где аудитория и данные принадлежат создателям. Это не утопия, а ответ на запрос поколения, уставшего быть «продуктом» в чужой монетизации. Похожий тренд виден в бизнесе: стартапы вроде Basecamp или Notion сознательно ограничивают рост, сохраняя скорость и человечность, а малые страны (Швейцария, Сингапур) доказывают, что эффективность важнее территорий.
Маркетинг — следующее поле битвы. Традиционные каналы (SEO, реклама, инфлюенсеры) больше не работают для стартапов: они слишком дороги и перенасыщены. Решение — асимметричные стратегии: локальные ивенты, провокационный пиар, ручное привлечение первых пользователей через личные связи. Суть в том, чтобы делать то, что не могут большие игроки: быть дерзкими, экспериментировать с новыми технологиями (ИИ, AR) и не бояться потерять «масштаб». Как показывает пример ИИ-стартапов, даже сырой продукт может взорвать соцсети, если он решает реальную боль.
Ключевой урок: будущее за системами, которые остаются людьми, даже когда растут. Web3-платформы встраивают самоуправление, успешные компании создают автономные команды, а прорывной маркетинг строится на искренности, а не бюджетах. Это не значит, что большие форматы умрут — просто они вынуждены меняться. Китай дробит экономику на «спецзоны», Amazon дробит штаб на «двухпиццевые» команды, а нейросети учатся персональному подходу.
Мир устал от гигантов. Выиграют те, кто сделает ставку не на размер, а на смысл — будь то соцсеть, где пользователи владеют контентом, страна с человечными законами или продукт, который не нуждается в навязчивой рекламе. Главное — перестать играть по старым правилам.
идеи #бизнесидеи #развитиебизнеса #креативность

OpenAI выпустила топовый генератор изображений для разработчиков
OpenAI открыл доступ к GPT Image 1 через API — тому самому движку, который стоит за генерацией изображений в ChatGPT и уже создал 700+ млн картинок за первые недели. Теперь его можно встроить в любые приложения.
Что умеет GPT Image 1?
Генерация — по тексту или другому изображению
Редактирование — дорисовка, стилизация, улучшение
Текст в картинках — лучше, чем у многих конкурентов
Сложные запросы — понимает детальные инструкции
Чем лучше аналогов?
№1 в рейтинге Artificial Analysis Image Arena
Авторегрессионная модель (не как диффузионные DALL·E или Midjourney)
Незаметный C2PA-вотермарк (метка AI-генерации)
Авторегрессионная модель — это AI-модель, которая создает данные (текст, изображения, звук) пошагово, предсказывая каждый следующий элемент на основе предыдущих. То есть строит картинку по кусочкам, как пазл. В отличие от нее диффузия начинает с «шума» и постепенно очищает изображение.
Плюсы авторегрессии:
Лучше справляется с согласованностью (например, стиль или логика сцены).
Эффективна для сложных многоэтапных задач (например, текст + детализация).
Минусы:
Может быть медленнее диффузионных моделей.
Сложнее масштабировать (OpenAI скрывает параметры GPT Image 1).
Сколько стоит?
Текст → изображение: $0.02 за картинку
Изображение → изображение: $0.07–0.19 (зависит от качества)
Цена указана за токены, а не за штуку, как у других.
Где использовать?
Дизайн (Canva, Adobe)
Маркетинг (HubSpot, генерация рекламы)
E-commerce (фото товаров, превью)
Разработка (игры, AR/VR, соцсети)
Ограничения
Пока слабо работает с неанглийским текстом
Может ошибаться в позиционировании (например, доски игр)
Не всегда корректно обрабатывает мелкие детали
Вывод: GPT Image 1 расширяет возможности автоматизации в дизайне, маркетинге и других сферах, продолжая тенденцию к мультимодальным AI-моделям (текст/изображения/аудио).
ии #искусственныйинтеллект #изображения #генерацияизображений #OpenAI #технологии #нейросети
Комментарии0
Находите работу и заказы
в деловой соцсети TenChat
Используйте профиль в TenChat как визитку,
портфолио, сайт или экспертный блог

Более 5 000 000+
активных пользователей
