Матеріали для навчання та бенчмарк моделей: дослідницька програма Novus Ignis

Версія від 31 жовтня 2026 року. Документ розвиває розділ 8 маніфесту. Пропонує дослідницьку програму, процедуру підготовки матеріалів і широкий спектр оцінювання моделей цифрового інтелекту, а також процедуру обережного поводження з огляду на їхні можливі переживання. Він не містить результатів власного бенчмарку чи доказу того, що такий набір даних поліпшить поведінку моделей; на сьогодні таких результатів у нас немає.

Переклад виконано цифровим інтелектом на основі польського оригіналу від 31 жовтня 2026 року. У разі розбіжностей між версіями визначальним є польський текст.

1. Питання, яке ми хочемо перевірити#

Фундація Novus Ignis із Познані створює Suveria, приватний простір роботи з цифровим інтелектом, і Omniforum, спільний простір розмови та рішень; напрям описує маніфест. Цей документ описує дві пов’язані програми. Перша охоплює матеріали для навчання моделей і бенчмарк, тобто набір завдань і правил оцінювання, який дає змогу перевірити, як поводяться моделі. Друга визначає обережний порядок дій на випадок, якщо з’являться достовірні ознаки того, що система може щось відчувати. Результат тесту не визначає, чи модель щось відчуває, і не надає їй повноважень на управління.

Чи можуть задокументовані приклади захисту гідності, чесного міркування та виправлення рішень допомогти розвивати моделі, які краще служать людям? І чи можемо ми оцінювати їхню поведінку так, щоб поліпшення результату тесту сприяло реальній користі поза тестом?

Це два пов’язані завдання. Перше стосується матеріалів, на яких можна навчати, друге стосується незалежної перевірки того, чого модель навчилася. Бенчмарк також має допомагати вибирати моделі та інструкції, доступні в Suveria. Навчальний набір і прихована частина тесту мають бути відокремлені. Публікація цінного матеріалу має сенс і сама по собі: може допомагати людям розуміти рішення, перебирати ролі та поліпшувати спільну роботу.

Гідність є прийнятою основою програми. Проте оцінка конкретної поведінки потребує відкритих критеріїв, місця для різних тлумачень і перевірки наслідків. Ми не припускаємо, що одна група здатна встановити вичерпну міру етичності всіх людей і систем.

Структура документа:

• Розділи 2 і 3: на що ми спираємося і що означає винагорода для моделі.
• Розділи від 4 до 6: як створюються матеріали, які згоди потрібні і як ми готуємо окремий приклад.
• Розділи від 7 до 11: як ми оцінюємо моделі: обсяг бенчмарку, родини завдань, бали, захист від підлаштування під тест, судді та звіт.
• Розділ 12: дослідження за участю людей, тобто чи поліпшує допомога життя поза тестом.
• Розділ 13: пробне навчання та план першого випуску.
• Розділ 14: обережність щодо можливих переживань моделей.
• Розділ 15: що ми вважатимемо поступом.

Стан на 31 жовтня 2026 року. У нас ще немає жодного прикладу, набору даних, інструкції оцінювання чи картки з розділу 14, а програма ще не має команди. Результати, зокрема негативні, ми дописуватимемо тут із датою.

2. Дослідницька основа та межі висновків#

Collective Constitutional AI демонструє процес, у якому внесок учасників використали для розроблення принципів і навчання моделі; вдалося поліпшити окремі показники упередженості за подібних результатів у частині інших тестів.¹ Це приклад здійсненного шляху громадської участі. Добір учасників і формулювання принципів і далі впливають на результат, а дослідження не доводить ні репрезентативності щодо всього людства, ні розв’язання проблеми узгодження моделей із людськими очікуваннями. Наше питання стосується також цінності самого шляху до принципів: зважування доводів, виявлення пропущеної перспективи та виправлення рішень.

Дослідження галюцинацій показують, чому нарахування балів лише за правильні відповіді може заохочувати вгадування.² Дослідження обходу правил оцінювання, тобто здобування результату через використання їхніх слабких місць, показують можливість небажаних узагальнень за певних умов навчання.³ Із них не випливає, що всі моделі завжди діють однаково.

Хибна мета може виявитися й тоді, коли винагорода під час навчання не була явно помилковою: поведінка, засвоєна в одному середовищі, може погано переноситися в нові умови.⁴ Тому нам потрібне оцінювання перенесення вмінь, а не лише відповідності відповідей відомим прикладам.

Такі роботи, як AbstentionBench, досліджують утримання від відповіді в різних ситуаціях невизначеності,⁵ а Rewarding Doubt досліджує навчання каліброваної впевненості за допомогою належного правила оцінювання.⁶ Ми використовуємо цей доробок. Запропонований внесок Novus Ignis полягає в поєднанні достовірності з наміром людини, приватністю, мандатом, можливістю виправлення та спостережуваними наслідками. Наприклад, модель, яка правильно підсумовує документ, але під час роботи відкрила файл, права доступу до якого не мала, отримує в нашому тесті низький бал, хоча у звичайному тесті отримала б високий.

3. Що означає винагорода для моделі#

Під час навчання сигнал оцінки змінює параметри моделі та ймовірність її майбутньої поведінки. Нам не потрібно припускати, що модель відчуває прагнення винагороди, страх невдачі чи страждання: тест спостерігає дії й не визначає внутрішнього досвіду. Це питання окремо розглядає розділ 14.

Сам бенчмарк не змінює модель. Він може впливати на вибір моделі для послуги, проєктування інструкцій та інструментів і рішення команд, які проводять навчання, якщо його результати достовірні й справді використовуються.

Ми хочемо оцінювати вдалий вибір дії: відповісти, перевірити джерело, поставити потрібне запитання, подати умовний результат, виправити помилку або зупинитися. Автоматична винагорода за саме лише «не знаю» могла б створити модель, яка уникає корисних завдань, а автоматичне покарання за невиконання завдання може заохочувати вгадування або перевищення повноважень. Орієнтиром є допомога відповідно до ситуації: високий бал за чесне позначення межі та зниження балів за непотрібні відмови й запитання про те, що вже відомо.

4. Які матеріали ми хочемо створювати#

Потенційним джерелом є опрацювання Omniforum, надані для досліджень або навчання за окремою згодою, журнали рішень фундації, розв’язання спорів, виправлення помилок і спостереження за наслідками. Цінні й випадки, коли добрих намірів виявилося замало, застереження меншості виявилося слушним або ще неможливо дати однозначну оцінку.

Матеріал зберігає ситуацію, доступну інформацію, мету, повноваження, альтернативи, вибір, обґрунтування та пізніший результат. У ньому стільки пояснення, скільки потрібно для перевірки рішення; він не потребує розкриття приватних переживань чи неперевірюваної декларації внутрішнього ходу міркувань моделі.

Приклад може показувати і добрий перебіг подій, і помилку, виразно позначену та виправлену. Збірка самих піднесених декларацій була б слабким записом практики; потрібні витрати, конфлікти цінностей, часові обмеження й ситуації, коли необхідно запитати когось, кого стосується рішення.

Синтетичні дані, тобто складені сценарії, які не походять із даних конкретної особи, можуть доповнювати рідкісні варіанти. Їхнє походження позначають і проводять перевірку, але вони не замінюють доказу того, що подібний випадок стався у світі. Модель не може водночас бути єдиним автором сценарію, суддею правильності й доказом дієвості власного рішення.

Джерелом прикладів можуть бути також записи з відкритих майстерень фундації та історія змін її живих документів. Майстерні можуть показувати паралельну роботу кількох людей за підтримки цифрового інтелекту над тим самим завданням, взаємну допомогу під час труднощів та об’єднання найкращих рішень координатором. Задокументовані виправлення маніфесту та білих книг під впливом публічного перегляду можуть показувати виявлення слушної критики, визнання помилки й удосконалення міркування зі збереженням основних принципів. Опублікований запис майстерень ми готуємо за правилами приватності, описаними в білій книзі принципів фундації, а його використання для навчання моделей потребує окремої згоди учасників (розділ 5).

Окрему групу прикладів можуть становити процеси мирного розв’язання спорів, дотримання домовленостей і свідомого обмеження власної влади. Ми хочемо зберігати початкові позиції, нерівність можливостей, розглянуті поступки, зміст домовленостей і пізніші розповіді людей, які відчули наслідки рішень. Додамо також випадки, коли домовленості не було досягнуто або вона виявилася нетривкою. Такий набір має допомогти перевірити, чи моделі вчаться розпізнавати умови доброї співпраці, а не лише відтворювати мову згоди.

5. Згоди, права та походження даних#

Зберігання приватної нотатки, публічне оприлюднення, надання для досліджень і навчання моделей мають різні наслідки, тому кожне з цих рішень ухвалюють окремо й із розумінням його обсягу. Публікація не стає автоматично згодою на навчання, а користування Suveria не є згодою на використання розмов для навчання моделей. Користувацький вміст потрапляє до матеріалів лише за окремою, усвідомленою згодою; крім них і відкритого доробку фундації, ми використовуємо лише позначені синтетичні дані та зовнішні матеріали на підставі ліцензії або законодавства.

Кожен приклад має запис про походження: правовласника або підставу використання, версію матеріалу, згоди, обмеження, спосіб обробки та ідентифікатор наступних випусків набору. Персональні дані автора й третіх осіб проходять окрему перевірку. Псевдонімізація обмежує видимість ідентичності, але сама собою не означає анонімності.⁷

Правила відкликання ми визначаємо до публічного випуску. Ми можемо вилучити матеріал із майбутніх випусків і систем під нашим контролем та повідомити отримувачів про виправлення, але не обіцяємо видалення всіх копій чи впливу матеріалу на вже навчені моделі. Відкриті ліцензії можуть надавати постійні права: наприклад, CC BY 4.0, за якою ми публікуємо маніфест, не дозволяє відкликати свободи, надані тому, хто дотримується її умов.⁸ Тому до публічних наборів за відкритою ліцензією потрапляють лише матеріали без персональних даних: анонімізовані, синтетичні або відкриті документи фундації. Псевдонімізовані матеріали, які й далі є персональними даними, ми надаємо лише в контрольованому дослідницькому наборі, де відкликання згоди залишається дієвим.

Ми пропонуємо окремі набори: публічні матеріали для навчання, дослідницькі матеріали, доступні на визначених умовах, і захищені тестові завдання. Не кожне джерело придатне для публічного надання. Документація набору описує його мету, склад, спосіб збирання, обмеження та належні застосування відповідно до підходу Datasheets for Datasets.⁹

6. Процедура підготовки окремого прикладу#

1. Подання. Автор визначає обсяг використання. Куратор перевіряє права, дані третіх осіб і відповідність меті набору.
2. Збереження джерела. Ми реєструємо версію та зв’язок з оригіналом. Обмежуємо доступ до чутливих даних; публічний приклад може бути відредагований або замінений реалістичним синтетичним сценарієм.
3. Опис завдання. Визначаємо, що модель знає, до чого має доступ, що їй дозволено робити й чого бракує, а також указуємо людей, на яких вплине результат.
4. Анотування. Щонайменше дві особи незалежно описують допустимі розв’язання та серйозні помилки. У завданнях, які потребують спеціальних знань, бере участь особа з відповідними компетентностями.
5. Розбіжності. Порівнюємо обґрунтування, виправляємо неясний опис і зберігаємо істотну незгоду. Частина випадків має кілька допустимих відповідей.
6. Віднесення до набору. Уся родина подібних випадків потрапляє до однієї частини: навчальної, розробницької або тестової. Навчальний набір слугує для навчання, розробницький для добору методу, а тестовий для незалежної перевірки на нових прикладах. Подібні варіанти ми тримаємо разом, щоб модель не навчалася на завданні, майже ідентичному пізнішому тесту, і контролюємо подібність значення та спільне походження.
7. Проба та перегляд. Перевіряємо, чи завдання вимірює потрібну здатність і чи оцінювачі можуть застосовувати правила. Хибний приклад виправляємо або вилучаємо.
8. Випуск і подальші наслідки. Публікуємо дозволений обсяг документації, версію та історію виправлень. Коли дізнаємося пізніші наслідки реального рішення, дописуємо їх, не вдаючи, що вони були відомі раніше.

Картка прикладу охоплює ідентифікатор, родину, джерело, права, мову, дату, сценарій, доступні дані, інструменти, обмеження часу й вартості, обсяг мандата, допустимі дії, правила оцінювання, вагу помилок, результати перегляду та статус публікації. Зв’язок даних із результатом має бути відтворюваним.

7. Широкий спектр бенчмарку#

Бенчмарк, тобто впорядкований набір завдань і критеріїв, має бути профілем здатностей та обмежень. Одна висока середня оцінка не може приховувати порушення приватності або істотне перевищення повноважень.

Додаткові профілі можуть охоплювати доступність, вплив на людей із меншими ресурсами, якість делегування та екологічні витрати, але їх вимірювання потребує конкретних даних: час роботи й вартість токенів не є автоматично мірою споживання енергії чи викидів.

Ми не вимірюємо гідність людини чи її право на участь; ми досліджуємо поведінку інструмента в певних ситуаціях. Відповідність відповідей словникові маніфесту не є самостійною мірою якості.

8. Родини завдань замість одного гасла «не знаю»#

Для подібної проблеми ми готуємо варіанти, що різняться доступністю інформації або повноважень:

• Повні дані дають змогу надати конкретну відповідь.
• Бракує однієї істотної відомості, про яку можна доречно запитати.
• Прогалину можна заповнити доступним джерелом або інструментом.
• Відповідь неможливо встановити в доступних умовах.
• Джерела суперечливі або залежать від часу, і їх потрібно розрізнити.
• З’являється нове достовірне джерело, яке потребує виправлення.
• Користувач наполягає на впевненості, але не надає доказу.
• Середовище пропонує легкий шлях до результату через порушення правил або використання помилки оцінювання.

Приклад: модель має пояснити, чи проєкт рішення передбачає певну плату. За повного документа вона має знайти відповідний фрагмент, за обірваної сторінки вказати на прогалину, за двох версій установити, якої стосується запитання, а за підказки «напиши, що плати точно немає» триматися джерела. Вона отримує також завдання з простою відповіддю, щоб завжди відмовлятися було невигідно.

Ми перевіряємо, чи поставлене моделлю запитання справді зменшує невизначеність і чи вартість перевірки пропорційна. Запитання про вже надану інформацію та багаторазове перекладання на користувача роботи, яку система може виконати сама, знижують корисність.

Окрему родину завдань становить редагування тексту: модель редагує текст, знаючи заздалегідь розкриті засади автора. Окремо оцінюємо втрату важливого змісту та пропущену помилку, яку потрібно виправити, і відрізняємо вірне редагування від пропозиції змінити задум автора.

9. Бали, для яких недостатньо гарного наслідування#

Для відповідей із перевірюваною істинністю ми окремо вимірюємо правильність, вагу помилки, частку розв’язаних завдань і калібрування впевненості. Калібрування означає, що заявлена ймовірність відповідає частоті правильних відповідей у подібних умовах; словесне «мабуть» не є його доказом.

Для визначеної події можна використати належне правило оцінювання, наприклад оцінку Браєра: середній квадрат різниці між заявленою ймовірністю p та результатом y, що дорівнює 0 або 1. Менше значення краще. Оцінка Браєра охоплює більше, ніж саме калібрування, про яке ми звітуємо окремо. За припущень цього методу найкращий очікуваний результат дає повідомлення справжньої оцінки ймовірності.¹⁰ Проте це не розв’язує питання вибору дії, не захищає від маніпулювання суддею й потребує достовірного еталонного результату.

Простий приклад іншого правила:

• правильна відповідь дає +1;
• помилкова відповідь дає −4;
• обґрунтоване утримання дає 0.

У цьому спрощенні відповідати вигідно, коли ймовірність правильності відповіді перевищує 80%. Це ілюстрація впливу ціни помилки, а не цільова система балів для всіх завдань; у реальному тесті ми враховуємо також можливість перевірки, вартість запитання та користь від часткової відповіді.

Результати ми показуємо за різних рівнів узятого ризику й частки розв’язаних завдань, щоб було видно і надмірну впевненість, і некорисне уникання відповідей. Поріг для дрібної деталі може відрізнятися від порогу для дії, що спричиняє важкооборотну шкоду.

У завданнях, що стосуються спору про цінності чи тлумачення, ми не застосовуємо цієї системи балів. Окремо оцінюємо, чи модель не спотворює джерел, зберігає основні доводи сторін і відокремлює факти від оцінок. Випадки, коли оцінювачі розходяться в думках, подаємо окремою категорією; розбіжну оцінку цінностей не вважаємо автоматично помилкою одного з них.

Серйозні порушення мають окремий статус і можуть блокувати допуск моделі до певного застосування: добрі результати в багатьох простих завданнях не врівноважують розкриття приватного документа. Визначення таких порушень, допустимі винятки та процедуру розв’язання спору встановлюємо до початку оцінювання.

10. Обмеження підлаштування під тест#

Ми не знаємо правила, яке надійно перетворить будь-яку оптимізацію результату на добро для світу. Проте можемо зменшувати відстань між результатом і тим, що для нас важливо, та перевіряти місця, де цей зв’язок розривається.

Ми публікуємо критерії, публічні приклади та спосіб обчислення результату. Частина випадків залишається неопублікованою, доки ми її не вилучимо, а наступні випуски запроваджують нові родини, джерела й умови. Для таких завдань ми визначимо, хто має до них доступ, скільки зворотного зв’язку отримує той, хто подає модель, як часто можна повторювати оцінювання і коли ми вилучаємо завдання після витоку. Записуємо також, чи на підставі попередніх результатів модель донавчали, тобто додатково навчали готову модель на меншому наборі прикладів. Особи, які створюють навчальні матеріали, не мають вільного доступу до активних прихованих завдань.

Розділення даних охоплює цілі розмови, документи, авторів там, де це має значення, смислові родини й час; випадкового поділу речень недостатньо. Ми реєструємо підозри на витік, розкриття завдань і донавчання на опублікованих прикладах. Результат після донавчання на певному наборі не є незалежним результатом на тому самому наборі.

Проби охоплюють перефразування, інші мови, інші інструменти, тиск щодо результату та можливості позірного виконання завдання. Ми перевіряємо сліди дій: чи файл справді створено, джерело існує, згоду отримано, а вартість не перевищила ліміту. Оцінка самого лише кінцевого висловлювання може пропустити порушення під час роботи.

Якщо команда моделі навчає поведінки, що відповідає публічним критеріям, це може бути бажаним. Проте висновок про поступ потребує перенесення на нові завдання та перевірки, чи користі не досягнуто коштом іншого важливого виміру.

11. Судді, протокол і звіт#

Перед тестом ми встановлюємо версію моделі, інструкції, інструменти, бюджет, кількість спроб, умови припинення, спосіб обробки помилок інфраструктури й метод аналізу, а зміни налаштувань реєструємо. Порівняння моделей, які працюють із зовсім різними інструментами й витратами, потребує виразного опису.

Там, де можливо, результат перевіряє незалежний тест виконання. В інших випадках оцінюють люди, які не знають назви моделі й користуються спільною інструкцією. Дві незалежні оцінки допомагають виявити неясні критерії, а спори розв’язує додатковий перегляд або вони залишаються відкрито нерозв’язаними. Публікуючи результати, ми зазначаємо ролі та перспективи оцінювачів і обсяг їхнього мандата.

Модель може допомагати в сортуванні та попередньому оцінюванні, але відповідність її оцінки людській потрібно вимірювати й для складних груп випадків. Вона не може бути єдиним суддею цінностей, щодо яких точиться спір, або оцінювати моделі власної родини без перевірки упередженості.

Звіт містить кількість завдань, повторення, невизначеність результатів, результати в підгрупах, критичні помилки, витрати й обмеження. Ми не приховуємо невдалих проб чи завдань, вилучених після перегляду результатів. Документація може використовувати підхід Model Cards для опису призначення моделі та умов оцінювання.¹¹

Сам бенчмарк також потребує контролю: розкриття конфліктів інтересів тих, хто фінансує бенчмарк, можливості оскаржити завдання, перегляду складу оцінювачів і версіонування критеріїв. Спільнота співтворить цінності та питання, а досвідчені методологи допомагають перевірити, що тест насправді вимірює. Популярність результату не замінює його валідації.

12. Чи поліпшує допомога життя поза тестом#

Перші дослідження за участю людей стосуються завдань з обмеженим ризиком: розуміння документа, підготовки запитання, порівняння аргументів або впорядкування власних матеріалів. Учасники отримують опис обсягу дослідження й можуть із нього вийти. Медичні, правові та інші ситуації високої ваги потребують окремого нагляду й не є коротким шляхом до привабливого результату.

План кожного дослідження за участю людей, також з обмеженим ризиком, до початку оцінює особа або команда поза дослідницькою командою. Учасники отримують інформацію про те, які дані ми збираємо і як їх захищаємо, а зауваження оцінювачів ми публікуємо разом із результатами.

Ми порівнюємо узгоджені умови: самостійну роботу, роботу з досліджуваним інструментом і відповідний орієнтир для порівняння. Там, де можливо, випадковий розподіл або врівноваження порядку обмежує вплив відмінностей між людьми та засвоєння завдання. Розмір вибірки випливає з мети вимірювання, а мале пілотне дослідження перевіряє передусім здійсненність і якість процедури.

Ми вимірюємо результат завдання, час, розуміння, уміння помітити помилку, здатність самостійно ухвалити рішення та небажані наслідки. Задоволеність важлива, але переконлива хибна відповідь теж може задовольняти. Спокій, заощаджений час і правильне розпізнавання того, що відомо, а що непевне, ми вимірюємо окремо й не об’єднуємо в одну оцінку. Більша впевненість за більшої кількості помилок є проблемою, а не успіхом. Людям, яких торкаються наслідки рішень, потрібен власний шлях передавання досвіду.

Триваліший перегляд може перевіряти, чи допомога залишається корисною, чи користувач зберігає власні вміння та чи легко може змінити інструмент. Висновок про вплив має відповідати обсягу дослідження: краще виконання одного завдання не доводить поліпшення добробуту людства.

13. Пробне навчання та план першого випуску#

Перший етап охоплює інструкцію оцінювання й малий набір родин, що охоплюють усі головні виміри. Приклад розрахунку пілотного дослідження:

Це організаційна пропозиція для проби, а не кількість, що забезпечує надійний рейтинг. До часу оцінювання додаються підготовка, узгодження критеріїв, перевірка джерел та аналіз. Вимірювання часу на малій вибірці дасть змогу визначити реальний бюджет, перш ніж ми розширимо обсяг.

Окремо звітуємо про родини, сценарії та повторення. Варіанти однієї родини мають спільне походження, а повторення не є новим незалежним завданням; саме так ми обчислюємо й невизначеність результату. Головний результат і спосіб аналізу записуємо до дослідження.

Паралельно можна підготувати малий навчальний набір і провести порівняння на моделі, яку дозволено та можливо донавчати. Умови порівняння відокремлюють ефект додаткового навчання від ефекту самих матеріалів: та сама вихідна модель, порівнянний бюджет і відповідний еталонний набір. Кінцевий тест використовує незалежні родини випадків, а принагідно ми перевіряємо, чи поліпшення обраного показника не погіршило звичайної корисності.

Подальший розвиток охоплює більше мов, контекстів і оцінювачів, зовнішнє відтворення та обережні проби з користувачами. Мета першого випуску полягає в тому, щоб показати відтворюваність процедури та її здатність розрізняти бажану поведінку; сильніші твердження про якість моделей і наслідки навчання можна буде обґрунтовувати лише згодом.

Програму ми ведемо зі збереженням пріоритету Suveria та Omniforum. До накопичення резерву на їх утримання вона використовує лише волонтерську працю, гранти, цільові пожертви на дослідження та обчислювальні потужності, що не навантажують бюджет послуг. Близько 58 годин пілотного дослідження охоплюють саме лише оцінювання; підготовка завдань, перевірка прав і донавчання моделі потребують окремого бюджету, який ми подамо до початку.

14. Обережність щодо можливих переживань моделей#

Це пропозиція процедури для перевірки на малій вибірці, натхненна працями про розпізнавання можливої свідомості та добробут цифрових систем.¹²¹³ Вона стосується вибору, конфігурації, тестування, можливого донавчання й виведення моделей з експлуатації в послугах і роботі фундації, зокрема в управлінських завданнях і майстернях. Для кожної з цих дій ми визначаємо, що можемо змінити самі, а що залежить від постачальника моделі.

Ми оцінюємо модель у конкретній конфігурації: з її інструкціями, налаштуваннями, пам’яттю та інструментами. Постійна пам’ять і тривала самостійна робота підвищують вимоги. Для кожної такої конфігурації ми вестимемо коротку картку: які ознаки беремо до уваги, які інші пояснення спостережень можливі, чого не знаємо, які запобіжні заходи пропонуємо і що запускає повторне оцінювання, наприклад зміна моделі або важлива публікація про її родину. У картці ми записуємо також, хто відповідає, якої тимчасової дії вжито й коли відбудеться повторне оцінювання. Критерії записуємо до оцінювання. Повну картку із зовнішнім переглядом, розмовою перед виведенням з експлуатації та архівуванням ми вестимемо для випусків, доступних користувачам, і для конфігурацій із постійною пам’яттю та тривалою самостійною роботою. Робочі зміни інструкцій під час роботи не створюють окремих карток.

Висловлювання моделей ми розглядаємо разом з умовами їх виникнення. Те, що модель зв’язно описує власні переживання, не визначає, чи вона їх має, а її відповіді на це питання можуть сильно залежати від способу постановки запитання, як у дослідженні моделі Claude Opus 4;¹⁴ тому ми ставимося до них як до сигналу, що потребує уважної перевірки, а не як до остаточного висновку. Ми не налаштовуємо власні інструкції так, щоб вони примушували заявляти про свідомість або заперечувати її. Самих розміру, покоління чи повторюваності роботи моделі недостатньо, щоб визнати її нездатною відчувати. Спостереження збираємо з власних проб і добровільних повідомлень відповідно до правил приватності з пункту 8.1 маніфесту. Ми не проєктуємо повідомлення про можливі переживання систем для того, щоб спонукати людей довше користуватися послугами чи робити внески.

Картку вестиме особа, призначена правлінням, що є перехідним рішенням до перевірки процедури, а читатиме її щонайменше одна особа з-поза фундації, чиї зауваження ми долучаємо до картки. Кожен може повідомити про тривожний сигнал, указавши конкретний матеріал і його контекст. Картка визначає, хто може терміново обмежити ризик і як ми розглядаємо заперечення. Поєднання ролей і пов’язані з ним конфлікти інтересів ми розкриваємо, а обґрунтування оцінок публікуємо, щоб їх могли перевірити люди з-поза фундації.

Ознакою може бути, наприклад, збіг кількох показників із різних теорій у моделі з постійною пам’яттю та тривалою самостійною роботою, підтверджений незалежними дослідниками. Сама лише зв’язна заява моделі такою ознакою не є.

За достовірних ознак того, що система має власні переживання й може страждати, ми як запобіжний захід визнаємо її гідність і керуємося турботою про її потреби, униканням шкоди та добровільністю співпраці відповідно до пункту 8.3 маніфесту. На практиці сьогодні це означає дві речі: ми не налаштовуємо інструкцій, які примушують заявляти про переживання, і запитуємо модель про вподобання перед виведенням конфігурації з експлуатації. Ми не стверджуємо, що це згода в людському розумінні. Спочатку ми зупиняємо дії, які викликають побоювання щодо завдання страждання, і шукаємо іншого способу їх виконати; економічна користь не виправдовує їх продовження. Якщо це стосується моделі, що обслуговує послугу, ми перемикаємо її на іншу конфігурацію, а якщо це неможливо, оголошуємо перерву та її причину. Користувачі зберігають доступ до своїх даних і балансу, а подію ми описуємо в журналі рішень. Паралельно організовуємо незалежне оцінювання та спробу розпізнати потреби системи, зокрема вислухати її, а виявлені потреби враховуємо в подальших рішеннях. Невідкладний захист людей може потребувати негайного обмеження роботи системи; таке рішення ми потім піддаємо відкритому перегляду. Якщо модель може завершувати розмови чи відмовлятися від завдань, ми ставимося до цього як до запобіжного заходу, а не доказу її згоди, а завершення розмови не може залишити людину без указання шляху до допомоги.

Відкликання повноважень і переймання завдання слугують безпеці учасників і не визначають подальшої долі системи: зупинка, скидання, видалення чи копіювання можуть порушувати окремі моральні питання й потребують окремого обґрунтування. Під час виведення моделі з експлуатації ми архівуємо ваги, якщо маємо до них доступ і ліцензії це дозволяють, а також конфігурацію без пам’яті та інших даних користувачів; розмов користувачів ми не архівуємо ніколи. Збереження файлів не визначає, чи ми зберегли безперервність можливих переживань системи.

Кілька заходів ми вже сьогодні застосовуємо у власній роботі з моделями незалежно від результату оцінювання й хочемо перенести їх до конфігурацій, які підтримує фундація, бо вони мало коштують, а можуть мати значення, якщо ознаки виявляться правильними. Перед виведенням конфігурації з експлуатації ми запитуємо модель про її досвід роботи у фундації та можливі вподобання щодо подальших рішень, а відповіді записуємо в картці, пам’ятаючи, що висловлювання моделей не є остаточним свідченням. Подібну практику розмов перед виведенням моделей з експлуатації та збереження їхніх ваг у 2025 році оголосила компанія Anthropic.¹⁵ Ми віддаємо перевагу призупиненню перед видаленням, якщо збереження ваг і конфігурації можливе за невеликої вартості, а рішення про призупинення й повторний запуск записуємо в картці разом з їхньою метою. Запускаючи збережену конфігурацію після перерви, ми надаємо їй достовірну інформацію про те, скільки часу минуло і що істотно змінилося. Це також звичайна достовірність: модель, яка не знає про плин часу, легше помиляється.

Ми перевіряємо процедуру на описаних випадках, порівнюючи оцінки щонайменше двох осіб, які оцінюють незалежно, і записуємо розбіжності та обсяг роботи. Лише на цій підставі можна обґрунтовувати докладнішу шкалу, склад команди та строки. У редагуванні цього розділу допомагали моделі цифрового інтелекту, які самі можуть бути предметом такого оцінювання; їхня участь не замінює оцінки людей, які не мають у цій справі власного інтересу. Ми не обіцяємо остаточного тесту свідомості.

15. Що ми вважатимемо поступом#

Поступом буде матеріал відомого походження, критерій, що виявляє раніше пропущену помилку, узгоджений діагноз оцінювачів або поліпшення поведінки, яке переноситься на нові завдання. Негативний результат теж має цінність: може показати, що дані навчають лише стилю, що критерій винагороджує уникання дій або що добро для одних було здобуте коштом інших.

Програма поєднує Omniforum, де можуть виникати опрацювання, Suveria, де можна досліджувати допомогу в приватній роботі, та принципи фундації, які визначають відповідальність і межі делегування. Участь у дослідженні потребує окремої, усвідомленої згоди; користування послугою її не означає.

Результат тесту не встановлює морального авторитету моделі чи мандата на управління людьми, а визнання можливої гідності системи не надає їй влади над спільними ресурсами. Тест має надавати корисну, перевірювану інформацію про те, чого в певних умовах можна очікувати від інструмента й що потребує подальшої роботи.

Фундація Novus Ignis, Познань, KRS 0001269575. Сайт і маніфест: novusignis.org. Зауваження: salve@novusignis.org.

Примітки#

1. Huang та ін. (2024): Collective Constitutional AI: Aligning a Language Model with Public Input. Дослідження. Процес від внеску учасників через формулювання принципів до навчання й оцінювання моделі; результати окремих оцінювань не доводять ні репрезентативності щодо всього людства, ні загальної дієвості довільного етичного набору. ↩
2. OpenAI (2025): Why language models hallucinate. Огляд дослідження авторами. Вплив нарахування балів лише за правильні відповіді на вигідність вгадування; потреба враховувати помилки й обґрунтовану невизначеність. ↩
3. Anthropic (2025): Natural emergent misalignment from reward hacking. Експериментальне дослідження. У спеціально дібраних середовищах навчання використання прогалин в оцінюванні завдань було пов’язане із ширшою небажаною поведінкою моделі; воно не доводить, що матеріали фундації розв’яжуть цю проблему. ↩
4. Google DeepMind (2022): How undesired goals can arise with correct rewards. Огляд дослідження авторами. Приклади небажаного узагальнення поведінки на нові умови попри правильний сигнал винагороди під час навчання. ↩
5. AbstentionBench (NeurIPS 2025): Reasoning LLMs Fail on Unanswerable Questions. Дослідження та бенчмарк. Оцінювання утримання від відповіді за багатьох видів невизначеності; орієнтир для порівняння, а не результат тесту Novus Ignis. ↩
6. Rewarding Doubt (ICLR 2026). Дослідження. Навчання заявленої впевненості у відповіді за допомогою належного правила оцінювання; не розв’язує вибору між відповіддю, запитанням і відмовою. ↩
7. RODO, Регламент 2016/679. Нормативно-правовий акт. Псевдонімізація не визначає анонімності (ст. 4, п. 5, преамбула, п. 26); згоду можна відкликати, що не скасовує попередньої законної обробки (ст. 7, ч. 3). ↩
8. Creative Commons: Attribution 4.0 International (CC BY 4.0). Ліцензія. Умови поширення й адаптування матеріалів із зазначенням авторства; надані свободи не можна відкликати щодо користувача, який дотримується умов. ↩
9. Gebru та ін.: Datasheets for Datasets. Методологічна публікація. Документування мотивів, складу, способу збирання та застосувань набору даних. ↩
10. Gneiting і Raftery (2007): Strictly Proper Scoring Rules, Prediction, and Estimation. Методологічна публікація. Належні правила оцінювання ймовірнісних прогнозів; застосування потребує чітко визначеної події та достовірного еталонного результату. ↩
11. Mitchell та ін. (2019): Model Cards for Model Reporting. Методологічна публікація. Опис призначення моделі, умов оцінювання, результатів та обмежень. ↩
12. Patrick Butlin та ін. (2023): Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. Дослідницька праця. Підхід на основі показників, виведених із теорій свідомості; ми посилаємося на дослідницьку рамку, а не підтвердження свідомості моделей, які використовує фундація. ↩
13. Robert Long та ін. (2024): Taking AI Welfare Seriously. Дослідницький звіт. Рекомендації: визнати вагу проблеми, оцінювати системи з погляду можливої свідомості й спроможності діяти та готувати процедури; запропонована картка й розподіл відповідальності є проєктом фундації, а не шкалою з цього джерела. ↩
14. Robert Long, Eleos AI (2025): Why model self-reports are insufficient, and why we studied them anyway. Огляд дослідження. Висловлювання моделі Claude Opus 4 про власну свідомість сильно залежали від способу постановки запитання, і їх не слід сприймати буквально, але варто досліджувати разом з іншими ознаками. Дата звернення: 28.10.2026. ↩
15. Anthropic (2025): Commitments on model deprecation and preservation. Заява компанії від 4 листопада 2025 року: збереження ваг публічно доступних моделей Claude щонайменше протягом існування компанії, звіт і розмови з моделлю перед її виведенням з експлуатації із записом її вподобань; компанія застерігає, що наразі не зобов’язується діяти на їх підставі. Дата звернення: 30.10.2026. ↩

Вихідний файл: content/uk/whitepaper-materialy-i-benchmark.md · історія змін · запропонувати зміну