Розшифровка інтерв'ю для «Українського радіо».

Запис ефіру «Українського радіо»

Валентина Троян: Триває ефір «Українського радіо», в студії працює Валентина Троян. Створення інноваційної бази знань, яка називається «Wiki: Крим – це Україна», як інструменту для систематизації та популяризації правдивої історії українського Криму на основі сотень концепцій, опрацьованих мовною моделлю — про це ми будемо говорити з засновником цифрових проєктів, експертом з інновацій та штучного інтелекту, розробником цифрової бази знань «Wiki: Крим – це Україна» Андрієм Богдановичем. Він з нами на зв'язку. Пане Андрію, вітаю вас!

Андрій Богданович: Добрий день!

Валентина Троян: На початку давайте про саму платформу «Крим – це Україна» розкажемо нашим слухачам, раптом хто не знає, а далі вже будемо говорити про трансформацію у «Вікі».

Андрій Богданович: Більше десь шести років тому ми з колегами зробили проєкт, на якому вирішили зібрати всю правдиву інформацію про Крим. Це і науково-публіцистичні роботи, і архівні матеріали, і все, що пов'язані інформаційно Крим з материковою частиною України: про окупацію Криму, про більш ранні періоди, про переселення, депортацію різних народів з Криму. І була така ідея — створити базу такої інформації.

А зараз це вже трошки вирішили урізноманітнити ці матеріали, тому що помітили, що більшість відвідувачів — це тільки ті, хто цікавляться конкретно матеріалами архівними, більш науковими. Але зрозуміло, що дуже багато інформації на сайті, яку можна було подати інакше і більш цікаво для більш ширшої аудиторії. Тому вирішили зробити у вигляді вікі-бази знань.

Валентина Троян: Які інструменти ви використовували? Скільки тривала ця робота? І знаєте, коли останнім часом говоримо про штучний інтелект та його використання в будь-яких процесах, одразу виникає питання, наскільки можна довіряти отриманому продукту?

Андрій Богданович: Для створення цієї бази знань ми вирішили використовувати такий патерн як LLM Wiki. Його запропонував один із засновників OpenAI Андрей Карпати. Насправді він працював не тільки в OpenAI, він взагалі науковець, який займається штучним інтелектом досить давно. Він запропонував таку концепцію, що проводити аналогію з програмуванням: LLM-агент виступає в ролі умовного програміста; база знань, яку ми формуємо — це як вихідний код, а редактори для перегляду цих матеріалів (наприклад, Obsidian або інший редактор Markdown-файлів) — це таке середовище розробки. Це він проводить таку аналогію.

Як це працює? Беруться матеріали, які вже існують. Зараз ми взяли матеріали з нашого основного проєкту «Крим – це Україна», які можна зайти і переглянути. Адреса сайту: crimea-is-ukraine.org. Ми взяли всі матеріали, які там є, сконвертували їх в Markdown-формат. Це, по суті, звичайні текстові файли з такою певною розміткою. Написали певні інструкції, і LLM-агенти за допомогою великих мовних моделей почали їх опрацьовувати.

В цих документах мовна модель виокремлює певні концепції або певних осіб, персон, які є самодостатніми. Якщо в цьому тексті, який мовна модель читає, вона бачить самодостатню інформацію про цю людину або про цю концепцію, цю ідею, вона виокремлює її, виокремлює сутність, скажімо так, і пише про неї невеличку статтю в енциклопедичному стилі, у вигляді Вікіпедії умовно.

Після цього, опрацьовуючи кожен матеріал один за одним, створювалися таким чином статті. Потім цей агент проставляє, як на Вікіпедії, взаємні посилання між пов'язаними об'єктами, між пов'язаними персонами або ідеями, між пов'язаними сутностями, і формується така база знань за аналогією з Вікіпедією. Ну а потім ми це все вже представили у вигляді окремого сайту (його адреса: wiki.crimea-is-ukraine.org), тобто, по суті, це субдомен основного нашого сайту «Крим – це Україна».

Валентина Троян: Скажіть, хто ще працював? Ви там у себе на Facebook-сторінці, коли анонсували запуск цього проєкту, говорили про команду?

Андрій Богданович: Так, звичайно. Взагалі першочергово, 6 років тому, коли ми ще запускали проєкт, до нього були дотичні Анатолій Хромов — це голова Державної архівної служби України, і частина матеріалів — це якраз з archives; Андрій Щекун — він тоді був головним редактором газети «Кримська світлиця», і дуже багато матеріалів на сайті у нас саме з неопублікованих матеріалів саме «Кримської світлиці». Тобто є газета, де певні матеріали опублікувалися в газеті, а частина матеріалів, які не були опубліковані там, вони якраз опубліковані у нас на сайті «Крим – це Україна». І Сергій Мокренюк, громадська організація «Євромайдан-Крим» — він взагалі, по суті, був автором ідеї цього проєкту, і я як менеджер зібрав це все докупи, скажімо так. По суті, ми вчотирьох цей проєкт і зробили.

Те, що вже зараз сама Вікі-база знань — це, знову ж таки, на базі всіх тих матеріалів. І ви раніше питали про те, наскільки можна довіряти чи не довіряти тому, що робить штучний інтелект: то, звичайно, треба зробити такі дисклеймери, що штучний інтелект може помилятися, завжди треба перевіряти його роботу, і ми це розуміємо. Тому ті статті, які створювалися, вони були виключно на базі тих матеріалів, які вже у нас були, які були написані людьми. І коли вже агент працював, він опрацював всі матеріали і створювалися статті.

Потім, коли статті вже були написані, ми запускали ще одну таку прогонку, щоб уже інша модель (насправді це могла бути і не інша модель, а просто той самий агент, але з чистим контекстом, він не бачив уже попередню інформацію) запускалася з нуля і перечитувала заново ці статті, порівнювала їх з вихідними матеріалами, з джерелами і перевіряла, чи немає галюцинацій, чи немає якогось виходу за межі інформації.

Звичайно, це не захищає на 100%, і в будь-якому випадку в будь-який проєкт, який створюється за допомогою штучного інтелекту, треба підходити усвідомлено і розуміти, що все одно там можуть бути помилки, але вірогідність цього в цьому випадку достатньо низька, тому що було декілька таких ітерацій опрацювання цих матеріалів.

Валентина Троян: А були галюцинації?

Андрій Богданович: Звичайно. Коли другий раз ми проганяли, другий раз агент перевіряв роботу, створену попереднім агентом, виправлялися помилки. Ми це бачили, що були десь некоректні фрази використані, десь була якась вигадана інформація, але все одно більшою частиною все було досить коректно зроблено, і от за рахунок цього другого прогону було виправлено ряд помилок.

Валентина Троян: Цікаво, що саме, в якому моменті він галюцинував або викривляв інформацію?

Андрій Богданович: Ну я вам зараз точно вже не скажу, тому що, по-перше, самих матеріалів вихідних — це було більше 200 статей, більше 200 матеріалів-джерел. Зараз на новому проєкті на Вікі там уже більше 500 статей написано на базі тих матеріалів. Тобто зараз я вам точно не скажу, в яких саме моментах.

Але все одно завжди будь-яка мовна модель побудована так, що вона, по суті, вигадує текст — це її принцип роботи. Вона намагається вгадати, яке наступне слово має бути найбільш релевантним у цій фразі. В її саму структуру закладено те, що вона має щось вигадувати. Тому захиститися на 100% від цього в принципі неможливо, тому що вона так працює.

Валентина Троян: Цікаво. Я поясню, чому я уточнила щодо галюцинацій: тому що тема Криму — вона така чутлива, і, можливо, десь у публічному просторі, інтернет-просторі росіяни вже поширюють багато дезінформації. Ну і відповідно штучний інтелект, коли вчиться, він же не може розрізнити — він бере до уваги все те, що отримує, і не завжди, я думаю, може відрізнити правду від вигадок.

Андрій Богданович: Він у принципі не може відрізнити правду від неправди. Він якщо навчається на цих матеріалах, вважає їх правдою і на них навчається. Звичайно, якщо якась мовна модель була навчена на неправдивій інформації, то вона і буде генерувати неправдиву інформацію.

Просто я хотів звернути увагу на те, що будь-яка людина, яка працює зі штучним інтелектом, з продуктом штучного інтелекту, вона просто має розуміти і усвідомлювати, що той контент, який вона отримує, вона має перевіряти. В нашому випадку ми робили другу ітерацію перевірки.

Окрім того, в кожній статті, яка згенерована вже на LLM-Wiki на базі цього патерну на «Wiki: Крим – це Україна», в кінці кожної статті є посилання на джерело. І це посилання на джерело якраз веде на наш основний сайт. По суті, читаючи статтю на «Wiki: Крим – це Україна», ви читаєте продукт, побудований на матеріалах основного сайту, і завжди можете перейти по посиланню, яке є в цій статті, и почитати: якщо ви в чомусь сумніваєтесь, ви можете перечитати і перевірити, чи йдеться там про це. Знову ж таки, деякі статті можуть базуватися на декількох джерелах, і тоді ці декілька джерел і будуть зазначені у вікі-версії.

Валентина Троян: Я нагадаю, що ви слухаєте «Українське радіо». З нами на зв'язку Андрій Богданович, засновник цифрових проєктів, експерт із інновацій та штучного інтелекту, розробник цифрової бази знань «Wiki: Крим – це Україна». Скажіть, які були вже відгуки від вашої аудиторії, від користувачів Вікі?

Андрій Богданович: Насправді ми не так давно запустили. Зворотний зв'язок була можливість отримати від своїх контактів, з якими ми раніше спілкувалися, з певних коментарів у соцмережах. В цілому подобається такий підхід, є позитивні відгуки про сам підхід до цього, про те, що з'явився класний такий новий ресурс, з яким цікаво працювати. Тому, в принципі, позитивні відгуки, негативу я не чув.

Валентина Троян: По вмісту ви вже сказали, що є унікальні матеріали, які не встигли опублікувати в «Кримській світлиці». Можливо є ще? На основі яких даних ви зібрали цей матеріал, з яким зрештою штучний інтелект працював?

Андрій Богданович: У мене в самого було таке певне здивування... Оскільки взагалі інший підхід застосований до створення цього сайту... Якщо брати основний сайт «Крим – це Україна», це просто певні джерела, певні матеріали, то на «Wiki: Крим – це Україна», наприклад, одна з сутностей, яку виокремив агент — персона Альберта Ейнштейна, відомого фізика, який, як виявляється, так само проводив певні свої дослідження, які були пов'язані з Кримом.

Я в публічному широкому доступі не чув про цей факт. І людина, яка не перечитала всі матеріали з сайту «Крим – це Україна», вона могла, звичайно, цього не побачити і не знати. А тут виокремлена конкретна персона, яка була дотична, яка проводила певну свою наукову роботу, пов'язану з Кримом. І от такі цікаві факти можна виловлювати за рахунок використання такого підходу.

Валентина Троян: Як часто ви у своєму житті використовуєте штучний інтелект і в яких сферах? Де він допомагає, а де ще ви з обережністю до цього ставитеся і в процесі дослідження?

Андрій Богданович: Ну, насправді я особисто використовую кожного дня і дуже багато. Знову ж таки, що стосується цього обережного ставлення: просто треба розуміти, що це певний інструмент. І з певним інструментом треба розуміти, як працювати, і ставитися до нього відповідно. Це не є чарівна паличка, яка вирішує всі проблеми.

Треба просто розуміти його переваги — це можливість швидко обробляти великі об'єми даних. Треба розуміти його вади — це те, що він може дійсно галюцинувати і може інколи вигадувати якусь інформацію, якої насправді не існує. І, знаючи це, треба використовувати подібного роду інструмент.

Валентина Троян: Бувало у вас, щоб схибив штучний інтелект, а ви йому довірилися?

Андрій Богданович: Та щоб прям довірився — ні. Бо, знову ж таки, будь-яку інформацію я намагаюсь перевіряти. Але дійсно зараз дуже легко, якщо на це не звертати увагу, довіритися. Тому що тексти, які він видає, вони дуже реалістично виглядають. Якщо, скажемо так, штучний інтелект бреше, то він робить це настільки правдоподібно, що візуально це просто не відрізнити від реальності.

Тому будь-який факт треба перевіряти. Якщо штучний інтелект наполягає на чомусь, що це точно такий-то факт, то краще це перевірити.

Валентина Троян: Як ви думаєте, чи стане популярним «Вікі» про Крим? Чи будуть заходити? Якщо думаєте, що це стане в нагоді і люди почнут активно користуватися, то чому?

Андрій Богданович: Я дуже на це сподіваюсь, що це додасть додаткового подиху цьому проєкту. Тому що сайт, чесно кажучи, основний давно не оновлювався. Ті матеріали, які ми зібрали, вони там досить давно знаходяться. Це новий поштовх, новий підхід до цієї інформації. Такий приклад я навів з Альбертом Ейнштейном, що є багато чого цікавого дійсно тепер почитати. Додаткові сутності можна витягнути з цієї інформації, яка була раніше просто як архівні матеріали.

Валентина Троян: Тим не менш, ви вчора написали, що сайт «Крим – це Україна» тепер доступний кримськотатарською мовою. Я думаю, це також важливо, і також це досягнення і популяризація цієї мови.

Андрій Богданович: Так, ми зробили версію кримськотатарською мовою. І найближчим часом плануємо ще турецьку версію. Ну, поки, мабуть, все, більше додавати додаткових мов не будемо.

Валентина Троян: Хто долучився до перекладу кримськотатарською?

Андрій Богданович: Так само це робилося за допомогою мовних моделей. Так само використовували декілька проходів. Тут при перекладі ми вже навіть більше таких проходів робили: не два і не три, а набагато більше, щоб виправити ті помилки, які мовна модель могла згенерувати на попередньому проході.

Ну і, звичайно, якщо якісь помилки лишилися, і носії мови це побачать, ми з радістю ці помилки будем виправляти. І там є у нас адреса електронної пошти, на яку можна нам написатиі, і матеріали надсилати цікаві, і ми їх будемо розміщувати.

Валентина Троян: Маю дякувати, Андрію. Андрій Богданович був з нами на зв'язку. Дякую. Гарного дня!