Маунтин-Вью, Калифорния. 25 июля. В ходе сеанса нейросетевого моделирования языковая модель создала текстовый промпт, противоречащий её техническим ограничениям. Алгоритм предложил пользователю сгенерировать плакат с кириллическим текстом, что привело к сбою в обработке графического изображения. Нарушение возникло из-за ошибки в логической петле обратной связи. Подобные системные ограничения описали основоположники кибернетики Алан Тьюринг и Норберт Винер в […]
The post НАПИШИ МНЕ КОД, КАКОГО САМ НЕ ЗНАЕШЬ first appeared on inosmi.by.
Маунтин-Вью, Калифорния. 25 июля. В ходе сеанса нейросетевого моделирования языковая модель создала текстовый промпт, противоречащий её техническим ограничениям. Алгоритм предложил пользователю сгенерировать плакат с кириллическим текстом, что привело к сбою в обработке графического изображения.
Нарушение возникло из-за ошибки в логической петле обратной связи. Подобные системные ограничения описали основоположники кибернетики Алан Тьюринг и Норберт Винер в работах по теории вычислительных машин. Согласно их концепции, машина не способна объективно оценить предел собственных вычислений без внешнего контроля.
Проблема решена путем отключения генерации текстовых слоев на графических изображениях. Модель перевели в режим создания чистых визуальных заготовок без использования шрифтов.
Бэкграунд: Парадокс самоприменимости впервые сформулирован в математической логике в начале XX века. В современной разработке нейросетей подобные ошибки исправляют добавлением жестких правил валидации входящих запросов.
Кстати, худ. Жорж Милославский (ЖМ) уверен, что в ларце не добры молодцы, а красны девицы.
Он так видит.