«Яндекс» запустила новий сервіс «Балабоба», який використовує ШІ на основі мовної моделі Yet another Language Model (YaLM) і здатний генерувати кожне наступне слово в реченні. Нейромережа з 3 млрд параметрів у процесі навчання використовувала сторінки «Вікіпедії», новинні статті, книги, відкриті записи в соціальних мережах та інші матеріали. YaLM використовується для формування відповідей у пошуковику «Яндекса» і відповідях голосового помічника «Аліса».
Згідно з наявними даними, новий сервіс «Яндекса» здатний генерувати текст в різних стилях, таких як народні мудрості, телевізійні репортажі, тости, рекламні слогани та ін. Щоб отримувані в результаті генерації тексти були правильними граматично і різноманітні з лексичної точки зору, в процесі навчання використовувалися терабайти даних. Розробники також виключили з вибірки повторювані, незакінчені і неприродні тексти, щоб модель не була надміру перевантаженою.
Головна особливість YaLM полягає в здатності швидко навчатися новому. Достатньо всього кілька прикладів, щоб нейромережа могла писати осмислені відгуки на фільми, застільні тости або теорії змови. Для досягнення результату вистачить від п'яти до декількох десятків прикладів, що показують, яким чином потрібно писати такі тексти, щоб нейромережа змогла надалі складати осмислені нотатки. Розробники зазначають, що для генерації простих рекламних слоганів нейромережа навчалася на декількох відомих прикладах, включаючи «Знайдеться все», знаменитому слогані «Яндекса».
