Красиві українські військові дарують квіти дівчатам на 8 березня. Кішка, перелякана вибухами від російських ракет, у відчаї обіймає своє кошеня. Дитина, яку витягли з-під завалів, склала руки в молитві й вдягнена у форму ДСНС. Усе це були зображення, згенеровані штучним інтелектом. Проте люди поширювали їх мережею як реальні. Чому так відбувається та чи відкриває ШІ нові межі епохи дезінформації? Чи очікувати нам повстання машин та безробіття через розвиток технологій штучного інтелекту?
Розповідає засновник магістерської програми «Науки про дані» Українського католицького університету та голова комітету з питань розвитку сфери ШІ в Україні при Мінцифри Олексій Молчановський.
Це просто технологія. Кінець світу не так близько
Щоразу, коли я говорю про нові технології, закликаю дивитися в історію. І я не вважаю, що ми перебуваємо зараз у якійсь унікальній точці в історії людства. Основа сучасних технологій ШІ ґрунтується на тих самих підходах, що й технології багаторічної давнини. Відмінність у тому, що сьогодні вони забезпечуються набагато більшою кількістю даних. Але це лише ще одна технологія.
Якщо ви тільки прокинулись від сну, що тривав рік, то може здатися, ніби це щось неймовірне. Але це не так. Дані є секретом успіху новітніх технологій, але й проблемою, тому що якісні дані закінчуються. І є ризик того, що скоро ШІ просто не буде на чому навчати. Існують різні оцінки щодо того, скільки вже якісних даних використано, але з тим, що їх стає дедалі менше, згодні всі.
Тому очікувати якогось якісного прориву на тих самих алгоритмах з тими самими підходами не варто. Штучний інтелект не скоро замінить людину. І точно не скоро стане «таким, як ми».
По-перше, ми таки самі не знаємо, які ми. Якщо послухати науковців, які вивчають нейронауки, то вони говорять, що нам необхідно ще років 100, щоб повністю зрозуміти, як функціонує мозок. Ми й досі маємо забагато відкритих питань. Це теза Крістофера Коха¹, професора з Allen Institute for Neuroscience, яку він висловив під час AI Debate 2.0 у 2020 році.
Тож коли вигулькує поціновувач конспірологічних теорій з черговими апокаліптичними прогнозами щодо штучного інтелекту, я… запрошую його почитати історію технологій. А історія технологій часто має такий патерн: вона з'являється і, якщо досягає успіху, злітає. Про неї весь час говорять. Але потім очікування можуть не виправдатися.
Ми можемо це спостерігати вже зараз із новим поколінням інструментів штучного інтелекту. Бізнес має дуже велику зацікавленість, але дійсно цінні рішення, які може запропонувати ШІ, доволі обмеженні. Він може намалювати картинку, обробити текст, витягти звідти інформацію. Проте наскільки це буде краще, ніж робота професійного експерта?
Розкажу про особистий досвід: я писав текст і залучив до цього чат GPT. Але пояснювати йому, як саме написати, виявилось довше, ніж писати самостійно. Я пропоную не бути максималістами і сприймати його всього-на-всього як інструмент.
З чим ШІ впорається добре?
Наприклад, для мовних моделей — це такі завдання:
— підсумок великого тексту;
— відповіді на запитання до тексту;
— відповіді на доволі загальні питання, які існують «в базі людських знань»; але якщо це нішеве питання, то, найімовірніше, хорошої відповіді не буде;
— переформулювання, зміна стилістики тексту;
— переклад текстів різними мовами.
Чому ми вирішили, що живемо в унікальний момент історії з погляду технологій? Цілком можливо, що найцікавіше ще попереду. Якщо ж повернутись до так званих AI doomers, то шанси таких прогнозів стати реальністю, на мою думку, мізерні. Світ міцніший, ніж нам здається, щоб його розвалила технологія, ще далека від досконалості. Поточний ШІ не має власних намірів та механізмів їх втілення. Тому якщо хтось і може знищити світ, то це люди, які використовують ШІ. Так само, як ракета з ядерною боєголовкою не може сама себе запустити, сучасний ШІ інкапсульований: у нього немає «рук та ніг».
Але як щодо... дезінформації та плагіату
Люди вірять фейковим картинкам і охоче їх репостять. Особливо активно — після трагічних подій, обстрілів з жертвами та руйнуваннями. Причина цього — емоційна складова.
Люди хочуть бачити те, що хочуть бачити. А ще пропаганда просто бере і використовує ШІ як ще один свій інструмент.
З одного боку видається, що штучний інтелект — це супернова технологія, і боротися з нею необхідно по-новому, вигадувати нові закони тощо. Але я вважаю: попри те, що технологія нова, принципово нічого не змінилося. До речі, технологія трансформерів, на яких засновані сучасні великі мовні моделі, винайдена у 2017 році. Відтоді проривних алгоритмів у ШІ не робили. Зараз якість досягається більшою кількістю даних для тренувань, відповідно, тривалішим тренуванням, більшими обчислювальними потужностями та витратами енергії.
Нам потрібні усталені підходи боротьби з дезінформацією. Це і старе-добре критичне мислення, навчання людей, базова цифрова грамотність. Звичайно, просто сказати, а набагато складніше зробити.
Можна організувати уроки в школі, запустити канал на YouTube. Але складність може бути в масштабах.
Цілком можливо, що нам знадобиться більше фактчекерів, які матимуть свою градацію експертності. Можливо, варто залучати в фактчекінг волонтерів, які можуть бути менш підготовлені, але задовольнять потреби масштабування, первинну перевірку фейків.
Але також можемо звернутись до технологій, щоб технологіям протистояти. Наприклад, можна створити таких собі контрагентів, тобто системи, які виявлятимуть і вказуватимуть, що конкретне зображення згенероване штучним інтелектом. Великих гравців точно будуть контролювати. Нещодавно в ЄС ухвалили² закон щодо використання ШІ. Один sз пунктів полягає в тому, що компанії, які створюють генеративний штучний інтелект, повинні маркувати, що контент згенерований машиною. Але ми розуміємо, що зловмисник може обійти ці вимоги: просто відріже цю лейбу.
Чи можна створити складніше маркування? Можна створити ШІ, який виправить і це. Є вишуканіші механізми.
Як взагалі працює генеративний ШІ на прикладі візуального контенту? Наразі основний механізм — на базі дифузії: нейронна мережа вчиться з певного шуму генерувати зображення за описом на основі вивчених статистичних взаємозалежностей між певними пікселями. І, теоретично, можливо створити систему, яка буде дивитися на розподіл статистичних пікселів на зображенні й стверджувати: цей розподіл схожий на згенерований штучно. Або маркування не буде видно візуально, проте існуватимуть програми, які зможуть верифікувати цю «зашиту» мітку.
А от із текстовим контентом все складніше. Існують системи, які на основі статистичних закономірностей намагаються «виловлювати» ШІ. Найяскравіший приклад наразі — це боротьба з плагіатом. Це велика проблема для університетів та шкіл, яка спонукає кардинально переглянути, які завдання нам варто давати студентам та учням. Адже не існує і не буде існувати інструменту, який дасть стовідсоткову гарантію, що текст згенерував штучний інтелект. Ми можемо говорити лише про певну ймовірність. Завжди є шанс, що це просто стиль написання людини. Якщо це плагіат, то ми можемо віднайти джерело. Натомість зі ШІ все складніше. І остаточно рішення все одно винесе людина.
Отож почекайте капітулювати перед машинами! У нас, людей, ще дуже багато роботи.
Записала Наталія Бушковська
