Искусственный интеллект выдумывал цифры в течение 3 месяцев, и никто не заметил. Всё нормально.
Оригинал: AI making up numbers for 3 months and no one noticed until now. This is fine
Оригинал: AI making up numbers for 3 months and no one noticed until now. This is fine
We just found out our AI has been making up analytics data for 3 months and I'm gonna throw up.
Мы только что выяснили, что наш ИИ выдумывал аналитические данные в течение 3 месяцев, и меня сейчас вырвет.
So we've been using an AI agent since November to answer leadership questions about metrics. It seemed amazing at first fast answers, detailed explanations, everyone loved it.
Итак, с ноября мы использовали ИИ-агента для ответов на вопросы руководства о метриках. Поначалу это казалось просто потрясающим: быстрые ответы, подробные объяснения, всем понравилось.
I just found out it's been hallucinating numbers this entire time.
Я только что выяснил, что он всё это время выдавал выдуманные цифры.
Our VP of sales made territory decisions based on data that didn't exist. Our CFO showed the board a deck with fake insights. The AI was just inventing plausible sounding percentages.
Наш вице-президент по продажам принимал решения по территориям на основе данных, которых не существовало. Наш финансовый директор показал совету директоров презентацию с фейковыми инсайтами. ИИ просто выдумывал правдоподобно звучащие проценты.
I only caught it by accident when someone asked me to double check something. I started digging, and holy sh!t, it's bad.
Я наткнулся на это случайно, когда кто-то попросил меня перепроверить кое-что. Я начал копать, и, чёрт возьми, всё очень плохо.
Перевод оригинала: "AI making up numbers for 3 months and no one noticed until now. This is fine"
Пользователь на Reddit обнаружил, что ИИ-инструмент, используемый для анализа данных, генерировал выдуманные данные в течение трех месяцев. Это привело к принятию ошибочных решений на основе ложной информации.
