InvestFuture
💬 Слово дня: trendslop Ученые из Гарварда провели масштабное исследование, чтобы определить — насколько на самом деле непредвзяты нейросетки. Взяли все самые-самые (от ChatGPT до DeepSeek) и дали им одну и ту же задачу: выстроить бизнес-стратегию. 👉 По идее, обучение на большом корпусе источников должно было привести все результаты к золотой середине. На деле нейронки склонялись к одному мнению, вне зависимости от вводных. Будто бы чат-боты прошли обучение у одного и того же бизнес-тренера. Ученые назвали это trendslop (дословно: «модно-помои») — склонность нейросетей к самым популярным решениям. И причина у него простая: самый доступный корпус текстов — комментарии и форумы. Нейронка = усредненный обитатель комментов! Это — кошмар для бизнеса, инвестиций и других задач «на стратегию». 1️⃣ Любой чат-бот стоит воспринимать как ветку форумных комментариев: с зашитыми внутрь заблуждениями и устаревшими данными форумчан. 2️⃣ Разница в «воспитании»: в отличие от комментаторов, нейросеть долго и настойчиво учили при любых обстоятельствах быть любезной, вежливой и выполнять все просьбы пользователя (ваше внимание — главная валюта). 👉 Важный момент, воспитанием занимается менеджмент нейро-компаний. Так что они транслируют ценности и установки, принятые в создавшей их корпорации. 3️⃣ Как и комментаторы, нейронка может выдать нечто прорывное, но только для человека не знакомого с «матчастью». Стоит закопаться глубже в какую-то тему, и полезут галлюцинации. ⚠️ Речь идет обо всех свежих моделях и даже агентах, и, по мнению ученых — правильные промты могут смягчить ситуацию, но не способны ее поправить. При этом админ не против пообщаться на форумах или спросить что-то у нейросети. Только с учетом информационной гигиены: ➖ Помнить, что нейросеть — «восхищенный троечник», воспитанный корпоративными менеджерами. Не ждать от ИИ ничего экстраординарного. ➖ Просить у нейронки ссылки, проверять их и вычитывать оригиналы. Еще лучше — проверять по нескольким источникам с разной позицией. ➖ Не открывать новости об очередной нейросети, которая нас всех поработит или взломает. С таким же успехом вас поработит T-9 или Siri. Последнее — чистый «апокалиптичный пиар»: его использует руководитель OpenAI Сэм Альтман, и с энтузиазмом применяют в PR-отделе Anthropic (они подарили нам нейросеть-программиста Claude — тоже троечника). ✍️ Михаил Max VK