Втратить здатність генерувати зв'язний текст.

Вивчить граматику, стилі й частково накопичить знання про світ.

Стане менш чутливою до контексту.

Потребуватиме більше ручного маркування.

Навчання моделі прогнозувати наступне слово в реченні (next‑token prediction) призводить до того, що модель зазвичай:

Перевірка знань про фундаментальні моделі штучного інтелекту, підходи навчання (self‑supervised, supervised, reinforcement) та прикладні застосунки в науці й бізнесі.

Велика попередньо натренована модель, яку можна адаптувати до багатьох задач.

Модель, що використовується для будівництва фундаментів у будівництві.

Невеликий спеціалізований класифікатор для однієї задачі.

Набір ручних правил для прийняття рішень.

Що означає термін «фундаментальна модель» (foundation model) у контексті штучного інтелекту?

Системи, що лише класифікують наявні дані.

Алгоритми, які створюють новий контент (текст, зображення, код тощо).

Спеціалізований апаратний модуль для обробки даних.

Юридичний документ, що регулює використання ШІ.

Що в загальному розумінні називають генеративним штучним інтелектом (generative AI)?

Навчання на великих наборах мічених експертами даних.

Навчання через винагороду за дії в середовищі.

Навчання з використанням внутрішніх сигналів, де частини даних служать цілями для інших частин.

Побудова правил експертами вручну.

Який короткий опис підходу self‑supervised (самоcупервізне) навчання?

Воно не потребує жодних людських міток.

Переважно використовується для генерації нових зразків даних.

Модель навчається на прикладах, де кожен приклад має відповідну мітку, надану людиною.

Засноване на винагороді за довготривалі дії в середовищі.

Яка характерна риса суто супервізного (supervised) навчання?

Тому що підготовка великих обсягів мічених даних потребує значних людських ресурсів і часу.

Тому що мітки завжди містять технічні помилки в алгоритмах.

Тому що мітки роблять модель нечутливою до нових даних.

Тому що супервізія повністю усуває потребу в обчислювальних ресурсах.

Чому підхід із повною залежністю від людських міток часто вважають мало масштабованим?

Він не працює для ігор з чіткими правилами.

Потребує мало даних і тому недостовірний.

Не може бути використаний разом із нейронними мережами.

Часто надто повільний та небезпечний через довгу затримку сигналу винагороди й ризик помилок у реальному світі.

Який головний недолік простого підходу підкріпленого навчання (reinforcement learning) у багатьох реальних задачах?

Максимізація різниці між усіма зображеннями.

Генерація зображень за текстовими підказками.

Притягнення векторних представлень різних видів одного об'єкта та відштовхування представлень з різних зображень.

Використання супервізних міток для кожного об'єкта на зображенні.

У чому полягає ідея контрастивного навчання (contrastive learning) з «позитивними парами» у комп'ютерному зорі?

Тому що значення окремого поняття визначається його зв'язками з іншими поняттями.

Тому що кожне поняття має завжди статичне визначення, незалежне від контексту.

Тому що відношення спрощують усі проблеми суперечливих даних.

Тому що реляції не впливають на генеративну здатність моделі.

Чому реляційний контекст (відношення між поняттями) важливий для розуміння значення об'єктів?

Забезпечувати здатність стискати й зберігати багато різноманітних відношень і закономірностей у даних.

Зменшувати швидкість виконання без підвищення якості.

Гарантувати відсутність потреби в даних для навчання.

Повністю замінювати апаратне прискорення (GPU/TPU).

Яка роль великої кількості параметрів у сучасних фундаментальних моделях?

Обидва—комплексні ансамблі простих обчислювальних елементів, організованих в ієрархії.

Мозок виконує ідеально точні математичні обчислення, як суперкомп'ютер.

Нейронні мережі повністю замінили всі біологічні функції мозку.

Мозок не має ніякої структури і працює випадково, на відміну від мереж.

У чому полягає аналогія між мозком і новими нейронними мережами, яку часто використовують у дослідженнях ШІ?

Тому що їх неможливо адаптувати під інші задачі.

Тому що вони навчені на вузькому наборі даних і дають гарантовану точність.

Тому що після попереднього навчання їх можна донавчати або застосовувати для широкого кола завдань без початкового навчання з нуля.

Тому що вони не залежать від обчислювальних ресурсів.

Чому попередньо натреновані фундаментальні моделі зручно використовувати в різних прикладних задачах?

Прогнозування структур білків та інтерпретація послідовностей ДНК через моделі, натреновані на генетичних даних.

Заміна лабораторних експериментів на повністю ручні правила.

Використання лише супервізного навчання з ручними мітками для усіх генів.

Видобування мінералів із ґрунту за допомогою нейронних мереж.

Який приклад застосунку генеративного ШІ у сфері біології та геноміки?

Формування профілів клієнтів виключно шляхом анкетування.

Аналіз поведінки покупців на основі їхніх взаємодій та історії покупок з використанням моделей, навчених на таких даних.

Ігнорування даних про поведінку клієнтів та орієнтація лише на інтуїцію менеджменту.

Використання лише алгоритмів кластеризації без урахування послідовностей дій.

Який підхід у рітейлі дозволяє глибше розуміти поведінку покупців без масивного ручного опитування?

Два випадкові зображення з різних наборів даних.

Один і той самий обріз (crop) або варіації одного зображення, які повинні мати близькі представлення.

Зображення та текст, які не пов'язані між собою.

Два різні класи об'єктів, які потрібно розрізняти.

Що найкраще описує «позитивну пару» (positive pair) у задачах обробки зображень?

Проєктування — це випадкові адаптації, а навчання — чіткі інструкції зверху.

Проєктування — топ‑down, де є чіткий план; навчання — bottom‑up, де знання виникають через досвід і адаптацію.

Проєктування завжди менш ефективне, ніж навчання.

Навчання означає використовувати тільки математичні моделі, а проєктування — тільки евристики.

Який філософський контраст характеризує підхід «проєктування» (design) проти «навчання» (learning)?

Бо світ є строго дискретним і не має проміжних станів.

Тому що деякі явища мають неперервні варіації, а мітки можуть не вловлювати тонких проміжків між класами.

Тому що мітки завжди точні та не містять невизначеності.

Бо мітки автоматично покращують узагальнення.

Чому позначення світу лише дискретними мітками може бути недостатнім для його опису?

Наявність явних міток для кожного кадру.

Розуміння динаміки об'єктів і їхніх взаємодій, що відображає модель світу.

Зменшення розміру мережі без втрати інформації.

Гарантію того, що модель ніколи не помиляється.

Що дає моделі здатність прогнозувати майбутні кадри відео на основі попередніх?

Потребує більше ручного маркування, ніж супервізія.

Можливість використовувати величезні масиви немічених (unlabeled) даних для навчання.

Гарантує абсолютну точність на всіх задачах.

Виключає потребу в обчислювальних ресурсах.

Яка ключова перевага самоcупервізного навчання порівняно з класичним супервізним у масштабуванні?

Тому що воно завжди працює краще за інші методи.

Тому що отримання достатньої кількості безпечних проб для навчання може вимагати неприйнятної кількості аварій чи помилок.

Тому що підкріплене навчання не використовує винагороди.

Тому що підкріплене навчання не здатне моделювати послідовності.

Чому підкріплене навчання (reinforcement learning) особливо уразливе у сценаріях автономного керування в реальному світі?

Система, яка автоматично формує план дій для досягнення мети та може виконувати послідовність операцій без постійного ручного втручання.

Калькулятор, що виконує однокрокові арифметичні операції.

Статичний довідник фактів, який не змінює відповіді.

Ручна анкета для збору даних про клієнтів.

Який приклад автономного агента або системи, що планує й діє, відповідає загальній ідеї автономних агентів у ШІ?

Вони надають спеціалізований апарат для ефективного тренування та інференсу великих нейронних мереж.

Вони пишуть всі моделі вручну замість навчання на даних.

Вони замінюють методи самоcупервізного навчання.

Вони в основному займаються створенням міток для даних.

Яку роль відіграють компанії, що виробляють прискорювальні апарати (наприклад, GPU/TPU), у розвитку великих моделей ШІ?

Поняття визначається виключно своїми внутрішніми властивостями.

Значення поняття формується через його зв'язки й контекст із іншими поняттями та подіями.

Реляції не можуть бути квантифіковані в моделях.

Значення завжди постійне і не залежить від контексту.

Що означає вислів «значення є реляційним» у контексті представлення знань?

Повна відсутність інтересу з боку урядів і регуляторів.

Активна розробка ініціатив і регуляцій на національному та міжнародному рівні для контролю розвитку й застосування ШІ.

Обов'язкове використання лише супервізних моделей у всіх галузях.

Заборона будь‑яких досліджень у сфері генеративного ШІ.

Який сучасний тренд у сфері державного регулювання стосовно ШІ можна спостерігати?

Можливість вчитися на масивних невідмічених даних і виявляти широкі відношення, що дає універсальні представлення для багатьох задач.

Повна відсутність інвестицій та зацікавлених сторін.

Те, що ці моделі не потребують обчислень або даних.

Тому що вони обмежені лише однією вузькою задачею.

Яка практична причина зробила фундаментальні моделі і підхід самоcупервізного навчання такими помітними останнім часом?

Питання 7 з 25