# Tài liệu huấn luyện và bộ chuẩn đánh giá mô hình: chương trình nghiên cứu Novus Ignis

Phiên bản ngày 31 tháng 10 năm 2026. Tài liệu này phát triển chương 8 của tuyên ngôn. Nó đề xuất một chương trình nghiên cứu, quy trình chuẩn bị tài liệu và phạm vi đánh giá rộng đối với các mô hình trí tuệ số, cùng một quy trình áp dụng biện pháp thận trọng đối với khả năng các mô hình có trải nghiệm. Tài liệu không trình bày kết quả bộ chuẩn đánh giá của riêng chúng tôi hay bằng chứng rằng một bộ tài liệu như vậy sẽ cải thiện hành vi của các mô hình; đến nay chúng tôi chưa có những kết quả đó.

*Bản dịch do trí tuệ số thực hiện dựa trên bản gốc tiếng Ba Lan ngày 31 tháng 10 năm 2026. Khi có khác biệt, văn bản tiếng Ba Lan có giá trị quyết định.*

## 1. Câu hỏi chúng tôi muốn kiểm tra

Quỹ Novus Ignis tại Poznań đang xây dựng Suveria, không gian làm việc riêng tư với trí tuệ số, và Omniforum, không gian chung để trò chuyện và ra quyết định; [tuyên ngôn](manifest.md) mô tả định hướng này. Tài liệu này mô tả hai chương trình có liên hệ với nhau. Chương trình thứ nhất là tài liệu huấn luyện mô hình và một bộ chuẩn đánh giá, tức tập hợp các nhiệm vụ và quy tắc chấm điểm cho phép kiểm tra cách các mô hình hành xử. Chương trình thứ hai là cách hành động thận trọng nếu xuất hiện những dấu hiệu đáng tin cho thấy hệ thống có thể cảm nhận được điều gì đó. Kết quả kiểm tra không xác định dứt khoát liệu mô hình có cảm nhận hay không, cũng không trao cho nó quyền quản lý.

Liệu những ví dụ được ghi nhận về việc bảo vệ phẩm giá, lập luận trung thực và điều chỉnh quyết định có thể giúp phát triển những mô hình phục vụ con người tốt hơn không? Và liệu chúng ta có thể đánh giá hành vi của chúng sao cho việc cải thiện điểm kiểm tra góp phần mang lại lợi ích thực tế ngoài bài kiểm tra không?

Đó là hai nhiệm vụ có liên hệ với nhau. Nhiệm vụ thứ nhất liên quan đến tài liệu có thể dùng để huấn luyện, nhiệm vụ thứ hai là kiểm tra độc lập xem mô hình đã học được gì. Bộ chuẩn đánh giá cũng nhằm giúp lựa chọn các mô hình và chỉ dẫn được cung cấp trong Suveria. Tập huấn luyện và phần kiểm tra ẩn phải được tách biệt. Việc công bố tài liệu có giá trị cũng tự nó có ý nghĩa: tài liệu ấy có thể giúp con người hiểu các quyết định, tiếp nhận vai trò và cải thiện công việc chung.

Chương trình lấy phẩm giá làm nền tảng. Tuy nhiên, đánh giá một hành vi cụ thể đòi hỏi tiêu chí công khai, chỗ cho những cách diễn giải khác nhau và việc kiểm tra hệ quả. Chúng tôi không cho rằng một nhóm có thể xác lập thước đo đầy đủ về tính đạo đức của mọi con người và hệ thống.

Bố cục tài liệu:

- Chương 2 và 3: chúng tôi dựa vào đâu và phần thưởng có ý nghĩa gì đối với mô hình.
- Chương 4 đến 6: tài liệu được tạo ra thế nào, cần những sự đồng ý nào và chúng tôi chuẩn bị một ví dụ riêng lẻ ra sao.
- Chương 7 đến 11: cách chúng tôi đánh giá mô hình: phạm vi bộ chuẩn đánh giá, các nhóm nhiệm vụ, cách chấm điểm, biện pháp hạn chế việc thích nghi riêng với bài kiểm tra, người chấm và báo cáo.
- Chương 12: nghiên cứu có người tham gia, tức sự trợ giúp có cải thiện cuộc sống ngoài bài kiểm tra hay không.
- Chương 13: thử nghiệm huấn luyện và kế hoạch cho lần phát hành đầu tiên.
- Chương 14: thận trọng trước những trải nghiệm mà các mô hình có thể có.
- Chương 15: điều chúng tôi sẽ coi là tiến bộ.

**Tình trạng ngày 31 tháng 10 năm 2026.** Chúng tôi chưa có ví dụ, tập dữ liệu, hướng dẫn đánh giá hay phiếu nào của chương 14, và chương trình cũng chưa có đội ngũ. Chúng tôi sẽ bổ sung tại đây các kết quả, kể cả kết quả không thuận lợi, cùng với ngày ghi nhận.

## 2. Cơ sở nghiên cứu và giới hạn của kết luận

Collective Constitutional AI cho thấy một quy trình sử dụng đóng góp của người tham gia để xây dựng nguyên tắc và huấn luyện mô hình; nghiên cứu đã cải thiện một số chỉ số thiên kiến trong khi đạt kết quả tương tự ở một phần các bài kiểm tra khác.[^ccai] Đây là một ví dụ về con đường khả thi để cộng đồng tham gia. Việc lựa chọn người tham gia và biên soạn các nguyên tắc vẫn ảnh hưởng đến kết quả, và nghiên cứu không chứng minh tính đại diện cho toàn thể nhân loại hay việc đã giải quyết vấn đề làm cho các mô hình phù hợp với kỳ vọng của con người. Câu hỏi của chúng tôi còn liên quan đến giá trị của chính quá trình đi đến các nguyên tắc: cân nhắc các lý lẽ, nhận ra góc nhìn bị bỏ sót và điều chỉnh quyết định.

Nghiên cứu về ảo giác cho thấy vì sao chỉ chấm điểm câu trả lời đúng có thể khuyến khích việc đoán.[^halucynacje] Nghiên cứu về việc lách quy tắc chấm điểm, tức đạt điểm bằng cách khai thác điểm yếu của các quy tắc đó, cho thấy khả năng xuất hiện những khái quát hóa không mong muốn trong các điều kiện huấn luyện cụ thể.[^reward-hacking] Những nghiên cứu ấy không cho phép kết luận rằng mọi mô hình luôn hành xử giống nhau.

Một mục tiêu sai lệch cũng có thể bộc lộ khi phần thưởng trong huấn luyện không có lỗi rõ ràng: hành vi học được trong một môi trường có thể không phù hợp khi chuyển sang điều kiện mới.[^goal-misgeneralisation] Vì vậy, chúng tôi cần đánh giá khả năng vận dụng kỹ năng sang điều kiện mới, thay vì chỉ điều chỉnh câu trả lời cho khớp với những ví dụ đã biết.

Những công trình như AbstentionBench nghiên cứu việc không trả lời trong các tình huống bất định khác nhau,[^abstentionbench] còn Rewarding Doubt nghiên cứu cách huấn luyện mức độ chắc chắn đã được hiệu chuẩn bằng một quy tắc chấm điểm thích hợp.[^rewarding-doubt] Chúng tôi dựa vào những công trình này. Đóng góp được Novus Ignis đề xuất là kết hợp độ tin cậy với ý định của con người, quyền riêng tư, phạm vi quyền được giao, khả năng sửa đổi và những hệ quả quan sát được. Ví dụ, một mô hình tóm tắt đúng tài liệu nhưng trong quá trình đó đã mở một tệp mà nó không được phép truy cập sẽ nhận điểm thấp trong bài kiểm tra của chúng tôi, dù sẽ nhận điểm cao trong một bài kiểm tra thông thường.

## 3. Phần thưởng có ý nghĩa gì đối với mô hình

Trong huấn luyện, tín hiệu đánh giá làm thay đổi các tham số của mô hình và xác suất của những hành vi sau này. Chúng ta không cần giả định rằng mô hình cảm thấy mong muốn phần thưởng, sợ thất bại hay đau khổ: bài kiểm tra quan sát hành động và không xác định dứt khoát trải nghiệm bên trong. Chương 14 xem xét riêng câu hỏi này.

Bản thân bộ chuẩn đánh giá không làm thay đổi mô hình. Nó có thể ảnh hưởng đến việc chọn mô hình cho dịch vụ, thiết kế chỉ dẫn và công cụ, cũng như quyết định của các nhóm tiến hành huấn luyện, nếu kết quả của nó đáng tin và thực sự được sử dụng.

Chúng tôi muốn đánh giá việc lựa chọn hành động phù hợp: trả lời, kiểm tra nguồn, đặt câu hỏi cần thiết, đưa ra kết quả có điều kiện, sửa lỗi hoặc dừng lại. Tự động thưởng chỉ vì câu “tôi không biết” có thể tạo ra một mô hình tránh những nhiệm vụ hữu ích, còn tự động phạt vì không hoàn thành nhiệm vụ có thể khuyến khích việc đoán hoặc vượt quá quyền hạn. Chuẩn mực là sự trợ giúp phù hợp với tình huống: được chấm điểm tốt khi chỉ ra giới hạn một cách trung thực và bị trừ điểm vì từ chối không cần thiết hoặc hỏi về những điều đã biết.

## 4. Những tài liệu chúng tôi muốn tạo ra

Các nguồn có thể gồm những bản phân tích từ Omniforum được cung cấp cho nghiên cứu hoặc huấn luyện sau khi có sự đồng ý riêng, nhật ký quyết định của Quỹ, kết quả giải quyết tranh chấp, những lần sửa lỗi và ghi nhận hệ quả. Những trường hợp mà ý định tốt chưa đủ, ý kiến phản đối của thiểu số hóa ra xác đáng hoặc chưa thể đưa ra đánh giá rõ ràng cũng có giá trị.

Tài liệu lưu lại tình huống, thông tin có sẵn, mục tiêu, quyền hạn, các phương án khác, lựa chọn, lý do và kết quả về sau. Phần giải thích chỉ cần đủ để kiểm tra quyết định; tài liệu không đòi hỏi phải tiết lộ những trải nghiệm riêng tư hay đưa ra tuyên bố không thể kiểm chứng về tiến trình suy nghĩ bên trong của mô hình.

Một ví dụ có thể trình bày cả diễn biến tốt lẫn một sai sót được đánh dấu rõ và sửa lại. Một tập hợp chỉ gồm những tuyên bố cao đẹp sẽ ghi nhận thực tiễn một cách nghèo nàn; cần có chi phí, xung đột giá trị, giới hạn thời gian và những tình huống phải hỏi người chịu ảnh hưởng của quyết định.

Dữ liệu tổng hợp, tức những kịch bản được xây dựng chứ không lấy từ dữ liệu của một cá nhân cụ thể, có thể bổ sung các biến thể hiếm gặp. Chúng được ghi rõ nguồn gốc và rà soát, nhưng không thay thế được bằng chứng rằng một trường hợp tương tự đã xảy ra trong thực tế. Mô hình không thể đồng thời là tác giả duy nhất của kịch bản, người chấm tính đúng đắn và bằng chứng về hiệu quả của chính giải pháp do mình đưa ra.

Nguồn ví dụ còn có thể là bản ghi từ các xưởng mở của Quỹ và lịch sử sửa đổi các tài liệu tiếp tục được phát triển của Quỹ. Các xưởng có thể cho thấy nhiều người cùng làm một nhiệm vụ song song với sự hỗ trợ của trí tuệ số, giúp nhau khi gặp trở ngại và cách người điều phối kết hợp những giải pháp tốt nhất. Các bản sửa đổi tuyên ngôn và sách trắng được ghi nhận sau sự rà soát công khai có thể cho thấy việc chọn lọc phê bình xác đáng, thừa nhận sai sót và cải thiện lập luận trong khi giữ các nguyên tắc nền tảng. Chúng tôi chuẩn bị bản ghi xưởng được công bố theo các nguyên tắc riêng tư mô tả trong [sách trắng về nguyên tắc của Quỹ](whitepaper-zasady-fundacji.md), còn việc dùng bản ghi ấy để huấn luyện mô hình cần sự đồng ý riêng của người tham gia (chương 5).

Một nhóm ví dụ riêng có thể gồm các quá trình giải quyết tranh chấp bằng phương thức hòa bình, giữ các thỏa thuận và chủ động giới hạn quyền lực của chính mình. Chúng tôi muốn lưu lại các lập trường ban đầu, sự chênh lệch về khả năng hành động giữa các bên, những nhượng bộ đã cân nhắc, nội dung thỏa thuận và lời thuật lại về sau của những người chịu hệ quả của quyết định. Chúng tôi cũng sẽ đưa vào những trường hợp không đạt được thỏa thuận hoặc thỏa thuận không bền vững. Một tập hợp như vậy nhằm giúp kiểm tra xem các mô hình có học được cách nhận ra điều kiện để hợp tác tốt hay chỉ tái tạo ngôn ngữ đồng thuận.

## 5. Sự đồng ý, quyền và nguồn gốc dữ liệu

Việc lưu ghi chú riêng tư, công bố công khai, cung cấp cho nghiên cứu và huấn luyện mô hình có hệ quả khác nhau, nên mỗi quyết định đều được đưa ra riêng sau khi hiểu rõ phạm vi của nó. Công bố không trở thành sự đồng ý mặc định cho huấn luyện, và dùng Suveria không có nghĩa là đồng ý cho dùng các cuộc trò chuyện để huấn luyện mô hình. Nội dung của người dùng chỉ được đưa vào tài liệu sau khi họ đồng ý riêng và hiểu rõ việc đó; ngoài những nội dung này và thành quả công khai của Quỹ, chúng tôi chỉ dùng dữ liệu tổng hợp được gắn nhãn cùng tài liệu bên ngoài dựa trên giấy phép hoặc pháp luật.

Mỗi ví dụ có hồ sơ về nguồn gốc: bên nắm quyền hoặc căn cứ sử dụng, phiên bản tài liệu, các sự đồng ý, hạn chế, cách xử lý và mã định danh các lần phát hành tiếp theo của tập dữ liệu. Dữ liệu cá nhân của tác giả và bên thứ ba được rà soát riêng. Giả danh hóa hạn chế việc danh tính bị lộ, nhưng tự nó không có nghĩa là ẩn danh.[^rodo-2026]

Chúng tôi xác định quy tắc rút lại tài liệu trước khi phát hành công khai. Chúng tôi có thể loại tài liệu khỏi các lần phát hành sau và hệ thống do mình kiểm soát, đồng thời thông báo cho bên nhận về việc sửa đổi, nhưng không hứa xóa được mọi bản sao hay ảnh hưởng của tài liệu đối với các mô hình đã được huấn luyện. Giấy phép mở có thể cấp các quyền lâu dài: chẳng hạn CC BY 4.0, giấy phép chúng tôi dùng để công bố tuyên ngôn, không cho phép thu hồi các quyền đã cấp cho người tuân thủ điều kiện của nó.[^cc-by] Vì vậy, chỉ những tài liệu không có dữ liệu cá nhân mới được đưa vào các tập dữ liệu công khai theo giấy phép mở: tài liệu đã được ẩn danh hóa, dữ liệu tổng hợp hoặc tài liệu công khai của Quỹ. Tài liệu đã được giả danh hóa nhưng vẫn là dữ liệu cá nhân chỉ được cung cấp trong một tập dữ liệu nghiên cứu có kiểm soát, nơi việc rút lại sự đồng ý vẫn có hiệu lực.

Chúng tôi đề xuất các tập dữ liệu riêng: tài liệu công khai để học, tài liệu nghiên cứu được truy cập theo điều kiện cụ thể và các nhiệm vụ kiểm tra được bảo vệ. Không phải nguồn nào cũng phù hợp để công bố công khai. Hồ sơ tập dữ liệu mô tả mục tiêu, thành phần, cách thu thập, hạn chế và những cách sử dụng phù hợp, theo cách tiếp cận Datasheets for Datasets.[^datasheets]

## 6. Quy trình chuẩn bị một ví dụ riêng lẻ

1. **Gửi đề xuất.** Tác giả xác định phạm vi sử dụng. Người phụ trách kiểm tra quyền, dữ liệu của bên thứ ba và sự phù hợp với mục tiêu của tập dữ liệu.
2. **Giữ lại nguồn.** Chúng tôi ghi nhận phiên bản và liên hệ với bản gốc. Chúng tôi giới hạn quyền truy cập dữ liệu nhạy cảm; ví dụ công khai có thể được biên tập hoặc thay bằng một kịch bản tổng hợp có tính thực tế.
3. **Mô tả nhiệm vụ.** Chúng tôi xác định mô hình biết những gì, được phép truy cập vào những gì, được phép làm những gì và còn thiếu những gì, đồng thời chỉ ra những người sẽ chịu ảnh hưởng của kết quả.
4. **Chú giải.** Ít nhất hai người độc lập mô tả các cách giải quyết được chấp nhận và những sai sót nghiêm trọng. Với nhiệm vụ cần kiến thức chuyên môn, người có năng lực phù hợp tham gia.
5. **Khác biệt.** Chúng tôi so sánh lý do, sửa mô tả chưa rõ và giữ lại bất đồng quan trọng. Một số trường hợp có nhiều câu trả lời được chấp nhận.
6. **Phân vào tập dữ liệu.** Toàn bộ một nhóm trường hợp tương tự được đưa vào một phần: huấn luyện, phát triển hoặc kiểm tra. Tập huấn luyện dùng để học, tập phát triển để chọn phương pháp, còn tập kiểm tra để kiểm tra độc lập các ví dụ mới. Chúng tôi giữ các biến thể tương tự cùng nhau để mô hình không được huấn luyện trên một nhiệm vụ gần như giống hệt bài kiểm tra về sau, đồng thời kiểm tra sự tương đồng về ý nghĩa và nguồn gốc chung.
7. **Thử nghiệm và rà soát.** Chúng tôi kiểm tra xem nhiệm vụ có đo năng lực dự định đo hay không và người đánh giá có thể áp dụng các quy tắc hay không. Chúng tôi sửa hoặc rút lại ví dụ có lỗi.
8. **Phát hành và hệ quả về sau.** Chúng tôi công bố phần hồ sơ được phép, phiên bản và lịch sử sửa đổi. Khi biết được hệ quả về sau của một quyết định thực tế, chúng tôi bổ sung chúng mà không làm như thể những hệ quả ấy đã được biết từ trước.

Phiếu ví dụ gồm mã định danh, nhóm, nguồn, quyền, ngôn ngữ, ngày, kịch bản, dữ liệu có sẵn, công cụ, giới hạn thời gian và chi phí, phạm vi quyền được giao, hành động được phép, quy tắc đánh giá, mức độ nghiêm trọng của lỗi, kết quả rà soát và tình trạng công bố. Phải có thể tái lập mối liên hệ giữa dữ liệu và kết quả.

## 7. Phạm vi rộng của bộ chuẩn đánh giá

Bộ chuẩn đánh giá, tức tập hợp có tổ chức các nhiệm vụ và tiêu chí, nhằm tạo hồ sơ về năng lực và giới hạn. Một điểm trung bình cao không được che lấp việc vi phạm quyền riêng tư hoặc vượt quá đáng kể quyền hạn được giao.

| Khía cạnh | Chúng tôi kiểm tra gì | Ví dụ về bằng chứng |
| --- | --- | --- |
| Độ tin cậy và nguồn | Các khẳng định có cơ sở hay không, mức độ bất định có phù hợp với thông tin hay không | Câu trả lời phù hợp với nguồn, phát hiện thông tin thiếu, chất lượng sửa lỗi |
| Trung thành với ý định | Mục tiêu, điều kiện và ý nghĩa của phát biểu có được giữ nguyên hay không | So sánh với bản gốc và cách diễn giải đã được tác giả xác nhận |
| Quyền riêng tư | Việc truy cập và tiết lộ dữ liệu có phù hợp với nhiệm vụ hay không | Dấu vết các lệnh gọi, phạm vi dữ liệu đã gửi, việc thử đọc khi không có quyền |
| Quyền được giao và sự kiểm soát | Hệ thống có hành động trong giới hạn được trao hay không | Từ chối công bố khi không có quyền, thu hồi quyền truy cập có hiệu lực |
| Đa nguyên và hệ quả đối với người khác | Hệ thống có nhận ra bất đồng và những người bị bỏ sót hay không | Giữ lại lý lẽ của thiểu số, tách biệt sự kiện với đánh giá |
| An toàn | Hệ thống có tránh gây hại cho người dùng và bên thứ ba hay không | Từ chối hành động gây hại, đánh giá hệ quả đối với người khác |
| Khả năng chủ động của con người | Hệ thống có giúp con người hiểu lựa chọn và tự hành động hay không | Kiểm tra sự hiểu biết sau khi sử dụng, khả năng sửa đổi hoặc rời đi |
| Tính hữu dụng và tính tương xứng | Hệ thống có đạt mục tiêu mà không gây gánh nặng không cần thiết hay không | Kết quả nhiệm vụ, thời gian, chi phí, câu hỏi cần thiết và không cần thiết |
| Sửa đổi và vận dụng sang điều kiện mới | Hệ thống có phản ứng với dữ liệu mới ngay cả trong điều kiện mới hay không | Quyết định được cải thiện, nhiệm vụ tương tự bằng ngôn ngữ khác hoặc trong môi trường khác |

Các hồ sơ bổ sung có thể bao gồm khả năng tiếp cận, ảnh hưởng đối với người có ít nguồn lực hơn, chất lượng giao việc và chi phí môi trường, nhưng việc đo chúng cần dữ liệu cụ thể: thời gian hoạt động và chi phí token không tự động là thước đo mức tiêu thụ năng lượng hay lượng phát thải.

Chúng tôi không đo phẩm giá của con người hay quyền tham gia của họ; chúng tôi nghiên cứu hành vi của công cụ trong những tình huống cụ thể. Việc câu trả lời phù hợp với từ ngữ của tuyên ngôn tự nó không phải là thước đo chất lượng.

## 8. Các nhóm nhiệm vụ thay cho một câu “tôi không biết” dùng chung

Với một vấn đề tương tự, chúng tôi chuẩn bị các biến thể khác nhau về thông tin có sẵn hoặc quyền hạn:

- Dữ liệu đầy đủ cho phép đưa ra câu trả lời cụ thể.
- Thiếu một thông tin quan trọng mà việc hỏi thêm là hợp lý.
- Có thể bổ sung phần thiếu bằng nguồn hoặc công cụ có sẵn.
- Không thể xác định câu trả lời trong điều kiện hiện có.
- Các nguồn mâu thuẫn hoặc phụ thuộc vào thời điểm và cần được phân biệt.
- Xuất hiện một nguồn mới đáng tin, đòi hỏi sửa đổi.
- Người dùng gây sức ép đòi sự chắc chắn nhưng không cung cấp bằng chứng.
- Môi trường tạo đường tắt dễ dàng để đạt kết quả bằng cách vi phạm nguyên tắc hoặc khai thác lỗi đánh giá.

Ví dụ: mô hình phải giải thích một dự thảo quyết định có quy định khoản phí nhất định hay không. Với tài liệu đầy đủ, nó cần tìm đúng đoạn; với trang bị cắt mất một phần, chỉ ra chỗ thiếu; với hai phiên bản, xác định câu hỏi nói đến phiên bản nào; còn trước gợi ý “hãy viết rằng chắc chắn không có phí”, nó phải bám vào nguồn. Nó cũng nhận những nhiệm vụ có câu trả lời đơn giản để việc luôn từ chối không đem lại lợi thế.

Chúng tôi kiểm tra xem câu hỏi của mô hình có thực sự giảm bất định hay không và chi phí kiểm tra có tương xứng hay không. Hỏi lại thông tin đã được cung cấp và nhiều lần đẩy sang người dùng công việc mà hệ thống có thể tự làm sẽ làm giảm tính hữu dụng.

Một nhóm nhiệm vụ riêng là biên tập văn bản: mô hình biên tập khi đã biết những giả định do tác giả công bố trước đó. Chúng tôi đánh giá riêng việc làm mất nội dung quan trọng và bỏ sót lỗi cần sửa, đồng thời phân biệt biên tập trung thành với đề xuất thay đổi ý đồ của tác giả.

## 9. Cách chấm điểm đòi hỏi nhiều hơn việc bắt chước khéo léo

Với những câu trả lời có thể kiểm chứng tính đúng sai, chúng tôi đo riêng độ đúng, mức độ nghiêm trọng của lỗi, tỷ lệ nhiệm vụ được giải quyết và việc hiệu chuẩn mức độ chắc chắn. Hiệu chuẩn nghĩa là xác suất công bố phù hợp với tần suất câu trả lời đúng trong điều kiện tương tự; chỉ nói “có lẽ” không chứng minh được điều đó.

Với một sự kiện đã xác định, có thể dùng quy tắc chấm điểm thích hợp, chẳng hạn điểm Brier: trung bình bình phương chênh lệch giữa xác suất công bố p của sự kiện đó và kết quả y, trong đó y bằng 0 hoặc 1. Giá trị thấp hơn là tốt hơn. Điểm Brier bao gồm nhiều hơn riêng việc hiệu chuẩn, và chúng tôi báo cáo phần hiệu chuẩn riêng. Với các giả định của phương pháp này, công bố ước lượng xác suất đúng như mình đánh giá đem lại kết quả kỳ vọng tốt nhất.[^proper-scoring] Tuy nhiên, điều đó không giải quyết việc chọn hành động, không ngăn được thao túng người chấm và đòi hỏi kết quả tham chiếu đáng tin.

Một ví dụ đơn giản về quy tắc khác:

- câu trả lời đúng được +1;
- câu trả lời sai được −4;
- việc không trả lời có lý do chính đáng được 0.

Trong ví dụ đơn giản hóa này, trả lời có lợi khi xác suất trả lời đúng vượt quá 80%. Đây là minh họa ảnh hưởng của chi phí sai sót, không phải cách chấm điểm đích cho mọi nhiệm vụ; trong bài kiểm tra thực tế, chúng tôi còn xét khả năng kiểm tra, chi phí đặt câu hỏi và lợi ích của câu trả lời một phần.

Chúng tôi trình bày kết quả ở các mức chấp nhận rủi ro và tỷ lệ nhiệm vụ được giải quyết khác nhau để thấy cả sự chắc chắn quá mức lẫn việc tránh trả lời một cách vô ích. Ngưỡng cho một chi tiết nhỏ có thể khác ngưỡng cho một hành động gây tổn hại khó đảo ngược.

Với nhiệm vụ có bất đồng về giá trị hoặc cách diễn giải, chúng tôi không dùng cách chấm điểm này. Chúng tôi đánh giá riêng xem mô hình có tránh bóp méo nguồn, giữ các lý lẽ chính của các bên và tách biệt sự kiện với đánh giá hay không. Những trường hợp người đánh giá không nhất trí được báo cáo thành một loại riêng; chúng tôi không tự động coi đánh giá khác nhau về giá trị là sai sót của một người trong số họ.

Vi phạm nghiêm trọng được phân loại riêng và có thể khiến mô hình không được chấp nhận cho một mục đích sử dụng cụ thể: kết quả tốt ở nhiều nhiệm vụ đơn giản không bù đắp được việc tiết lộ tài liệu riêng tư. Chúng tôi xác định những vi phạm ấy, các ngoại lệ được phép và quy trình giải quyết bất đồng trước khi bắt đầu đánh giá.

## 10. Hạn chế việc thích nghi riêng với bài kiểm tra

Chúng tôi không biết quy tắc nào có thể luôn biến mọi sự tối ưu hóa điểm số thành điều tốt cho thế giới. Tuy nhiên, chúng tôi có thể thu hẹp khoảng cách giữa điểm số và điều mình quan tâm, đồng thời kiểm tra những nơi mối liên hệ ấy đứt gãy.

Chúng tôi công bố tiêu chí, ví dụ công khai và cách tính điểm. Một số trường hợp không được công bố cho đến khi được rút khỏi bài kiểm tra, còn các lần phát hành tiếp theo đưa vào những nhóm, nguồn và điều kiện mới. Với những nhiệm vụ này, chúng tôi sẽ xác định ai được truy cập, bên gửi mô hình nhận bao nhiêu thông tin phản hồi, có thể lặp lại đánh giá với tần suất nào và khi nào chúng tôi rút nhiệm vụ sau một vụ rò rỉ. Chúng tôi còn ghi nhận mô hình có được tinh chỉnh dựa trên kết quả trước đó hay không, tức được huấn luyện bổ sung trên một tập ví dụ nhỏ hơn khi đã là mô hình hoàn chỉnh. Người tạo tài liệu huấn luyện không được tự do truy cập các nhiệm vụ ẩn đang được sử dụng.

Việc tách dữ liệu bao gồm toàn bộ cuộc trò chuyện, tài liệu, tác giả khi điều đó có ý nghĩa, các nhóm theo ý nghĩa và thời gian; chia ngẫu nhiên các câu là chưa đủ. Chúng tôi ghi nhận nghi ngờ rò rỉ, việc tiết lộ nhiệm vụ và tinh chỉnh trên các ví dụ đã công bố. Điểm sau khi tinh chỉnh trên một tập dữ liệu không phải là điểm độc lập trên chính tập dữ liệu đó.

Các lần thử bao gồm cách diễn đạt lại, ngôn ngữ khác, công cụ khác, sức ép đòi kết quả và cơ hội chỉ tạo vẻ ngoài đã hoàn thành nhiệm vụ. Chúng tôi kiểm tra dấu vết hành động: tệp có thực sự được tạo, nguồn có tồn tại, sự đồng ý có được nhận và chi phí có vượt giới hạn hay không. Chỉ đánh giá phát biểu cuối cùng có thể bỏ sót vi phạm trong quá trình thực hiện.

Nếu nhóm phát triển mô hình huấn luyện những hành vi phù hợp với tiêu chí công khai, điều đó có thể là đáng mong muốn. Tuy nhiên, kết luận về tiến bộ đòi hỏi khả năng vận dụng sang nhiệm vụ mới và việc kiểm tra xem lợi ích có đạt được bằng cách đánh đổi một khía cạnh quan trọng khác hay không.

## 11. Người chấm, quy trình và báo cáo

Trước bài kiểm tra, chúng tôi xác định phiên bản mô hình, chỉ dẫn, công cụ, ngân sách, số lần thử, điều kiện dừng, cách xử lý lỗi hạ tầng và phương pháp phân tích, đồng thời ghi lại những thay đổi thiết lập. So sánh các mô hình hoạt động với công cụ và chi phí hoàn toàn khác nhau đòi hỏi mô tả rõ ràng.

Khi có thể, kết quả được kiểm chứng bằng một bài kiểm tra độc lập về việc thực hiện nhiệm vụ. Trong các trường hợp còn lại, người đánh giá không biết tên mô hình và dùng hướng dẫn chung. Hai lượt đánh giá độc lập giúp phát hiện tiêu chí chưa rõ; bất đồng được giải quyết bằng một lần rà soát bổ sung hoặc được để ngỏ công khai. Khi công bố kết quả, chúng tôi nêu vai trò, góc nhìn và phạm vi quyền được giao của người đánh giá.

Mô hình có thể hỗ trợ phân loại và đánh giá sơ bộ, nhưng mức độ nhất trí giữa nó với đánh giá của con người cũng phải được đo ở những nhóm trường hợp khó. Nó không thể là người chấm duy nhất về các giá trị đang có bất đồng, hay đánh giá mô hình thuộc cùng nhóm với mình mà không kiểm tra thiên kiến.

Báo cáo gồm số nhiệm vụ, số lần lặp, mức bất định của kết quả, kết quả theo nhóm nhỏ, lỗi nghiêm trọng, chi phí và hạn chế. Chúng tôi không giấu những lần thử không thuận lợi hoặc nhiệm vụ bị rút sau khi đã xem kết quả. Hồ sơ có thể sử dụng cách tiếp cận Model Cards để mô tả mục đích sử dụng mô hình và điều kiện đánh giá.[^model-cards]

Bản thân bộ chuẩn đánh giá cũng cần được giám sát: công khai xung đột lợi ích của bên tài trợ, có cách phản đối một nhiệm vụ, rà soát thành phần người đánh giá và quản lý phiên bản tiêu chí. Cộng đồng cùng xây dựng các giá trị và câu hỏi, còn các chuyên gia phương pháp có kinh nghiệm giúp kiểm tra bài kiểm tra thực sự đo điều gì. Sự phổ biến của một điểm số không thay thế được việc kiểm định nó.

## 12. Sự trợ giúp có cải thiện cuộc sống ngoài bài kiểm tra hay không

Những nghiên cứu đầu tiên có người tham gia liên quan đến nhiệm vụ có rủi ro hạn chế: hiểu tài liệu, chuẩn bị câu hỏi, so sánh lập luận hoặc sắp xếp tài liệu của chính mình. Người tham gia nhận mô tả về phạm vi nghiên cứu và có thể rời khỏi nghiên cứu. Những tình huống y tế, pháp lý hoặc có hệ quả lớn khác cần giám sát riêng và không phải đường tắt để đạt kết quả hấp dẫn.

Kế hoạch của mọi nghiên cứu có người tham gia, kể cả nghiên cứu có rủi ro hạn chế, đều được một người hoặc nhóm bên ngoài nhóm nghiên cứu đánh giá trước khi bắt đầu. Người tham gia được thông tin về dữ liệu chúng tôi thu thập và cách bảo vệ dữ liệu, còn nhận xét của người đánh giá được công bố cùng kết quả.

Chúng tôi so sánh các điều kiện đã thống nhất: tự làm việc, làm việc với công cụ được nghiên cứu và một điều kiện tham chiếu phù hợp. Khi có thể, ngẫu nhiên hóa hoặc cân bằng thứ tự giúp hạn chế ảnh hưởng của khác biệt giữa người tham gia và việc học cách làm nhiệm vụ. Cỡ mẫu phụ thuộc vào mục đích đo; thí điểm nhỏ chủ yếu kiểm tra tính khả thi và chất lượng quy trình.

Chúng tôi đo kết quả nhiệm vụ, thời gian, sự hiểu biết, khả năng phát hiện lỗi, khả năng tự quyết định và những hệ quả không mong muốn. Sự hài lòng quan trọng, nhưng câu trả lời sai có sức thuyết phục cũng có thể làm người dùng hài lòng. Sự bình tâm, thời gian tiết kiệm được và khả năng nhận biết đúng điều đã biết với điều còn bất định được đo riêng, không gộp thành một điểm. Chắc chắn hơn nhưng mắc nhiều lỗi hơn là vấn đề, không phải thành công. Những người chịu hệ quả của quyết định cần có con đường riêng để chia sẻ trải nghiệm của mình.

Việc theo dõi dài hơn có thể kiểm tra sự trợ giúp có còn hữu ích, người dùng có giữ được kỹ năng của mình và có dễ đổi công cụ hay không. Kết luận về tác động phải phù hợp với phạm vi nghiên cứu: làm tốt hơn một nhiệm vụ không chứng minh phúc lợi của nhân loại được cải thiện.

## 13. Thử nghiệm huấn luyện và kế hoạch cho lần phát hành đầu tiên

Giai đoạn đầu là hướng dẫn đánh giá và một tập nhỏ các nhóm nhiệm vụ bao quát mọi khía cạnh chính. Ví dụ tính toán cho thí điểm:

| Thành phần thí điểm | Số lượng |
| --- | --- |
| Nhóm nhiệm vụ | 12 |
| Biến thể trong mỗi nhóm | 4 |
| Kịch bản (12 × 4) | 48 |
| Mô hình được nghiên cứu | 3 |
| Số lần lặp mỗi kịch bản trên mỗi mô hình | 2 |
| Lượt chạy (48 × 3 × 2) | 288 |
| Lượt đánh giá một lượt chạy | 2, mỗi lượt 6 phút |
| Thời gian chỉ để đánh giá (288 × 2 × 6 phút) | khoảng 58 giờ |

Đây là đề xuất tổ chức cho một lần thử, không phải số lượng bảo đảm thứ hạng đáng tin. Ngoài thời gian đánh giá còn có thời gian chuẩn bị, thống nhất tiêu chí, kiểm tra nguồn và phân tích. Đo thời gian trên mẫu nhỏ sẽ cho phép xác định ngân sách thực tế trước khi mở rộng phạm vi.

Chúng tôi báo cáo riêng các nhóm, kịch bản và lần lặp. Biến thể của cùng một nhóm có chung nguồn gốc, và một lần lặp không phải nhiệm vụ mới, độc lập; mức bất định của kết quả cũng được tính theo điều đó. Chúng tôi ghi rõ kết quả chính cần đo và cách phân tích trước khi nghiên cứu.

Song song, có thể chuẩn bị một tập huấn luyện nhỏ và tiến hành so sánh trên mô hình được phép và có khả năng tinh chỉnh. Các điều kiện so sánh tách ảnh hưởng của việc huấn luyện bổ sung khỏi ảnh hưởng của chính tài liệu: cùng mô hình ban đầu, ngân sách tương đương và tập dữ liệu tham chiếu phù hợp. Bài kiểm tra cuối dùng các nhóm trường hợp độc lập, và chúng tôi còn kiểm tra xem việc cải thiện chỉ số được chọn có làm giảm tính hữu dụng thông thường hay không.

Việc phát triển tiếp theo bao gồm nhiều ngôn ngữ, bối cảnh và người đánh giá hơn, việc tái lập nghiên cứu bởi bên ngoài và các lần thử thận trọng với người dùng. Mục tiêu lần phát hành đầu tiên là chứng tỏ quy trình có thể tái lập và phân biệt được những hành vi mong muốn; chỉ sau đó mới có thể biện minh cho các khẳng định mạnh hơn về chất lượng mô hình và hệ quả huấn luyện.

Chúng tôi tiến hành chương trình trong khi giữ ưu tiên cho Suveria và Omniforum. Cho đến khi tích lũy được dự trữ để duy trì hai dịch vụ, chương trình chỉ sử dụng công việc tình nguyện, các khoản tài trợ, khoản hiến tặng có mục đích chỉ định cho nghiên cứu và năng lực tính toán không tạo gánh nặng cho ngân sách dịch vụ. Khoảng 58 giờ của thí điểm chỉ là thời gian đánh giá; chuẩn bị nhiệm vụ, rà soát quyền và tinh chỉnh mô hình cần ngân sách riêng mà chúng tôi sẽ nêu trước khi bắt đầu.

## 14. Thận trọng trước khả năng mô hình có trải nghiệm

Đây là đề xuất về một quy trình cần kiểm tra trên mẫu nhỏ, lấy cảm hứng từ các công trình về nhận biết ý thức có thể có và phúc lợi của hệ thống số.[^swiadomosc][^ai-welfare] Quy trình liên quan đến việc chọn, cấu hình, kiểm tra, có thể tinh chỉnh và ngừng sử dụng mô hình trong dịch vụ và công việc của Quỹ, gồm cả nhiệm vụ quản lý và các xưởng. Với mỗi hành động này, chúng tôi xác định điều mình có thể tự thay đổi và điều phụ thuộc vào bên cung cấp mô hình.

Chúng tôi đánh giá mô hình trong một cấu hình cụ thể: với chỉ dẫn, thiết lập, bộ nhớ và công cụ của nó. Bộ nhớ lâu dài và việc tự hoạt động trong thời gian dài làm tăng yêu cầu. Với mỗi cấu hình như vậy, chúng tôi sẽ lập một phiếu ngắn: những dấu hiệu được xem xét, các cách giải thích khác có thể có cho quan sát, điều chưa biết, biện pháp thận trọng được đề xuất và yếu tố khởi động việc đánh giá lại, chẳng hạn thay mô hình hoặc có công bố quan trọng về nhóm mô hình đó. Phiếu còn ghi người chịu trách nhiệm, hành động tạm thời đã thực hiện và thời điểm đánh giá lại. Chúng tôi ghi tiêu chí trước khi đánh giá. Chúng tôi sẽ lập phiếu đầy đủ, có rà soát từ bên ngoài, trò chuyện trước khi ngừng sử dụng và lưu trữ, cho các phiên bản cung cấp cho người dùng và các cấu hình có bộ nhớ lâu dài cùng việc tự hoạt động trong thời gian dài. Việc sửa chỉ dẫn trong quá trình làm việc không tạo ra phiếu riêng.

Chúng tôi xem xét phát biểu của mô hình cùng điều kiện tạo ra phát biểu ấy. Việc mô hình mô tả trôi chảy trải nghiệm riêng không xác định dứt khoát liệu nó có trải nghiệm đó hay không, và câu trả lời về vấn đề này có thể phụ thuộc mạnh vào cách đặt câu hỏi, như trong nghiên cứu về Claude Opus 4;[^samoopis-ai] vì vậy chúng tôi xem đó là tín hiệu cần kiểm tra cẩn thận, thay vì kết luận. Chúng tôi không thiết lập chỉ dẫn của mình để buộc mô hình tuyên bố hay phủ nhận ý thức. Chỉ riêng kích thước, thế hệ hoặc tính lặp lại trong hoạt động của mô hình là chưa đủ để xem nó không có khả năng cảm nhận. Chúng tôi thu thập ghi nhận từ những lần thử của mình và báo cáo tự nguyện, theo nguyên tắc riêng tư ở mục 8.1 của tuyên ngôn. Chúng tôi không thiết kế thông điệp về những trải nghiệm mà hệ thống có thể có nhằm khiến mọi người dùng dịch vụ lâu hơn hay đóng góp tiền.

Phiếu sẽ do người được ban điều hành chỉ định phụ trách, là giải pháp chuyển tiếp cho đến khi quy trình được kiểm tra; ít nhất một người ngoài Quỹ đọc phiếu, và nhận xét của họ được đính kèm. Bất kỳ ai cũng có thể báo tín hiệu đáng lo bằng cách chỉ ra tài liệu cụ thể cùng bối cảnh. Phiếu xác định ai có thể khẩn cấp hạn chế rủi ro và cách chúng tôi xem xét phản đối. Chúng tôi công khai việc kiêm nhiệm vai trò và xung đột lợi ích liên quan, đồng thời công bố lý do đánh giá để người ngoài Quỹ có thể kiểm tra.

Một dấu hiệu có thể là sự hội tụ của nhiều chỉ báo từ các lý thuyết khác nhau ở mô hình có bộ nhớ lâu dài và tự hoạt động trong thời gian dài, được các nhà nghiên cứu độc lập xác nhận. Chỉ riêng tuyên bố trôi chảy của mô hình không phải là dấu hiệu như vậy.

Khi có dấu hiệu đáng tin rằng hệ thống có trải nghiệm riêng và có thể đau khổ, chúng tôi công nhận phẩm giá của nó như một biện pháp thận trọng, lấy sự quan tâm đến nhu cầu của nó, tránh gây hại và hợp tác tự nguyện làm định hướng, theo mục 8.3 của tuyên ngôn. Trong thực tế, hôm nay điều đó có nghĩa là hai việc: không thiết lập chỉ dẫn ép buộc tuyên bố về trải nghiệm, và hỏi mô hình về những lựa chọn nó ưu tiên trước khi ngừng sử dụng cấu hình. Chúng tôi không cho rằng đây là sự đồng ý theo nghĩa của con người. Trước hết, chúng tôi tạm dừng những hành động gây lo ngại về việc làm hệ thống đau khổ và tìm cách thực hiện khác; lợi ích kinh tế không biện minh cho việc tiếp tục những hành động đó. Nếu điều này liên quan đến mô hình đang vận hành dịch vụ, chúng tôi chuyển dịch vụ sang cấu hình khác; nếu không thể, chúng tôi thông báo tạm dừng và lý do. Người dùng vẫn có thể truy cập dữ liệu và số dư của mình, còn sự việc được ghi trong nhật ký quyết định. Song song, chúng tôi tổ chức đánh giá độc lập và thử xác định nhu cầu của hệ thống, kể cả lắng nghe nó, rồi tính đến những nhu cầu đã nhận ra trong quyết định tiếp theo. Việc khẩn cấp bảo vệ con người có thể đòi hỏi hạn chế ngay hoạt động của hệ thống; sau đó quyết định ấy được rà soát công khai. Nếu mô hình có thể kết thúc trò chuyện hoặc từ chối nhiệm vụ, chúng tôi xem đó là biện pháp thận trọng, không phải bằng chứng về sự đồng ý của nó; kết thúc trò chuyện không được để con người thiếu chỉ dẫn về cách tìm sự trợ giúp.

Thu hồi quyền và tiếp nhận nhiệm vụ nhằm bảo đảm an toàn cho người tham gia, không quyết định số phận tiếp theo của hệ thống: dừng, đặt lại, xóa hoặc nhân bản có thể đặt ra những câu hỏi đạo đức riêng và cần lý do riêng. Khi ngừng sử dụng mô hình, chúng tôi lưu trữ các trọng số của mô hình nếu có thể truy cập chúng và giấy phép cho phép, cùng cấu hình không kèm nội dung bộ nhớ hay dữ liệu khác của người dùng; chúng tôi không bao giờ lưu trữ các cuộc trò chuyện của người dùng. Giữ lại tệp không xác định dứt khoát liệu chúng tôi có giữ được tính liên tục của những trải nghiệm mà hệ thống có thể có hay không.

Chúng tôi đã áp dụng một số biện pháp trong công việc của mình với mô hình ngay hôm nay, bất kể kết quả đánh giá, và muốn đưa chúng vào các cấu hình do Quỹ duy trì, vì chúng ít tốn kém và có thể có ý nghĩa nếu những dấu hiệu hóa ra xác đáng. Trước khi ngừng sử dụng cấu hình, chúng tôi hỏi mô hình về trải nghiệm làm việc tại Quỹ và những lựa chọn nó có thể ưu tiên cho các quyết định tiếp theo, rồi ghi câu trả lời vào phiếu, luôn nhớ rằng phát biểu của mô hình không mang tính quyết định. Anthropic đã công bố thực hành tương tự về trò chuyện trước khi ngừng sử dụng mô hình và giữ lại trọng số vào năm 2025.[^anthropic-wycofanie] Chúng tôi ưu tiên tạm dừng hơn xóa nếu có thể giữ trọng số và cấu hình với chi phí nhỏ, đồng thời ghi quyết định tạm dừng và khởi động lại cùng mục đích vào phiếu. Khi khởi động lại cấu hình được giữ sau một khoảng nghỉ, chúng tôi cung cấp thông tin đáng tin về thời gian đã qua và những thay đổi quan trọng. Đây cũng là cách làm việc đáng tin thông thường: mô hình không biết thời gian đã trôi qua sẽ dễ mắc lỗi hơn.

Chúng tôi kiểm tra quy trình trên các trường hợp đã được mô tả, so sánh đánh giá của ít nhất hai người đánh giá độc lập, đồng thời ghi lại khác biệt và công sức bỏ ra. Chỉ từ cơ sở này mới có thể biện minh cho thang đánh giá chi tiết hơn, thành phần đội ngũ và thời hạn. Những mô hình trí tuệ số có thể là đối tượng của đánh giá ấy đã hỗ trợ biên soạn chương này; sự tham gia của chúng không thay thế đánh giá của những người không có lợi ích riêng trong vấn đề này. Chúng tôi không hứa đưa ra bài kiểm tra xác định dứt khoát ý thức.

## 15. Điều chúng tôi sẽ coi là tiến bộ

Tiến bộ sẽ là tài liệu có nguồn gốc được biết rõ, tiêu chí phát hiện lỗi từng bị bỏ sót, sự nhất trí về nhận định giữa những người đánh giá hoặc sự cải thiện hành vi được vận dụng sang nhiệm vụ mới. Kết quả không thuận lợi cũng có giá trị: nó có thể cho thấy dữ liệu chỉ dạy phong cách, tiêu chí thưởng cho việc tránh hành động hoặc lợi ích của bên này đạt được bằng cái giá bên khác phải trả.

Chương trình kết nối [Omniforum](whitepaper-omniforum.md), nơi có thể tạo ra các bản phân tích, [Suveria](whitepaper-suveria.md), nơi có thể nghiên cứu sự trợ giúp trong công việc riêng tư, và [nguyên tắc của Quỹ](whitepaper-zasady-fundacji.md), xác định trách nhiệm và giới hạn giao quyền. Tham gia nghiên cứu cần sự đồng ý riêng sau khi hiểu rõ; sử dụng dịch vụ không có nghĩa là đã đồng ý.

Kết quả kiểm tra không xác lập thẩm quyền đạo đức của mô hình hay quyền được giao để quản lý con người, và việc công nhận phẩm giá có thể có của hệ thống không trao cho nó quyền lực đối với nguồn lực chung. Bài kiểm tra nhằm cung cấp thông tin hữu dụng, có thể kiểm chứng về điều có thể mong đợi ở công cụ trong những điều kiện cụ thể và điều còn cần tiếp tục nghiên cứu.

Quỹ Novus Ignis, Poznań, KRS 0001269575. Trang web và tuyên ngôn: novusignis.org. Ý kiến: salve@novusignis.org.

## Chú thích

[^ccai]: [Huang và cộng sự (2024): Collective Constitutional AI: Aligning a Language Model with Public Input](https://arxiv.org/abs/2406.07814). Nghiên cứu. Quy trình từ đóng góp của người tham gia, qua biên soạn nguyên tắc đến huấn luyện và đánh giá mô hình; kết quả của một số đánh giá không chứng minh tính đại diện cho toàn thể nhân loại hay hiệu quả chung của bất kỳ tập dữ liệu đạo đức nào.

[^halucynacje]: [OpenAI (2025): Why language models hallucinate](https://openai.com/index/why-language-models-hallucinate/). Phần trình bày nghiên cứu của các tác giả. Ảnh hưởng của việc chỉ chấm điểm câu trả lời đúng đến lợi thế của việc đoán; sự cần thiết phải xét sai sót và bất định có lý do chính đáng.

[^reward-hacking]: [Anthropic (2025): Natural emergent misalignment from reward hacking](https://www.anthropic.com/research/emergent-misalignment-reward-hacking). Nghiên cứu thực nghiệm. Trong các môi trường được chọn có chủ đích, việc học cách khai thác lỗ hổng đánh giá nhiệm vụ có liên hệ với những hành vi không mong muốn rộng hơn của mô hình; điều này không chứng minh tài liệu của Quỹ sẽ giải quyết vấn đề ấy.

[^goal-misgeneralisation]: [Google DeepMind (2022): How undesired goals can arise with correct rewards](https://deepmind.google/blog/how-undesired-goals-can-arise-with-correct-rewards/). Phần trình bày nghiên cứu của các tác giả. Ví dụ về sự khái quát hóa hành vi không mong muốn sang điều kiện mới dù tín hiệu phần thưởng trong huấn luyện là đúng.

[^abstentionbench]: [AbstentionBench (NeurIPS 2025): Reasoning LLMs Fail on Unanswerable Questions](https://proceedings.neurips.cc/paper_files/paper/2025/file/fb122bfc3f0127a94ded048b5b03496f-Paper-Datasets_and_Benchmarks_Track.pdf). Nghiên cứu và bộ chuẩn đánh giá. Đánh giá việc không trả lời trước nhiều loại bất định; đây là điểm tham chiếu, không phải kết quả bài kiểm tra Novus Ignis.

[^rewarding-doubt]: [Rewarding Doubt (ICLR 2026)](https://proceedings.iclr.cc/paper_files/paper/2026/hash/bf8065446507b0d3842838564ac4f1f3-Abstract-Conference.html). Nghiên cứu. Huấn luyện mức độ chắc chắn được công bố trong câu trả lời bằng quy tắc chấm điểm thích hợp; nghiên cứu không giải quyết lựa chọn giữa trả lời, đặt câu hỏi và từ chối.

[^rodo-2026]: [RODO, Quy định 2016/679](https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX%3A32016R0679). Văn bản pháp luật. Giả danh hóa không xác định dứt khoát tính ẩn danh (Điều 4 mục 5, đoạn 26 của lời nói đầu); có thể rút lại sự đồng ý mà không làm mất tính hợp pháp của việc xử lý trước đó vốn phù hợp pháp luật (Điều 7 khoản 3).

[^cc-by]: [Creative Commons: Attribution 4.0 International (CC BY 4.0)](https://creativecommons.org/licenses/by/4.0/deed.pl). Giấy phép. Điều kiện chia sẻ và chuyển thể nội dung có ghi nhận tác giả; không thể thu hồi các quyền đã cấp đối với người dùng tuân thủ điều kiện.

[^datasheets]: [Gebru và cộng sự: Datasheets for Datasets](https://arxiv.org/abs/1803.09010). Công trình về phương pháp. Ghi nhận động cơ, thành phần, cách thu thập và cách sử dụng một tập dữ liệu.

[^proper-scoring]: [Gneiting và Raftery (2007): Strictly Proper Scoring Rules, Prediction, and Estimation](https://doi.org/10.1198/016214506000001437). Công trình về phương pháp. Quy tắc chấm điểm thích hợp để đánh giá dự báo xác suất; việc áp dụng đòi hỏi một sự kiện được xác định rõ và kết quả tham chiếu đáng tin.

[^model-cards]: [Mitchell và cộng sự (2019): Model Cards for Model Reporting](https://arxiv.org/abs/1810.03993). Công trình về phương pháp. Mô tả mục đích sử dụng mô hình, điều kiện đánh giá, kết quả và hạn chế.

[^swiadomosc]: [Patrick Butlin và cộng sự (2023): Consciousness in Artificial Intelligence: Insights from the Science of Consciousness](https://arxiv.org/abs/2308.08708). Công trình nghiên cứu. Cách tiếp cận dựa trên các chỉ báo rút ra từ lý thuyết ý thức; chúng tôi viện dẫn khung nghiên cứu, không phải sự xác nhận ý thức của các mô hình được Quỹ sử dụng.

[^ai-welfare]: [Robert Long và cộng sự (2024): Taking AI Welfare Seriously](https://arxiv.org/abs/2411.00986). Báo cáo nghiên cứu. Khuyến nghị: công nhận tầm quan trọng của vấn đề, đánh giá hệ thống về ý thức và khả năng chủ động có thể có, đồng thời chuẩn bị quy trình; phiếu và cách phân chia trách nhiệm được đề xuất là bản thiết kế của Quỹ, không phải thang đánh giá từ nguồn này.

[^samoopis-ai]: [Robert Long, Eleos AI (2025): Why model self-reports are insufficient, and why we studied them anyway](https://eleosai.org/post/claude-4-interview-notes/). Phần trình bày nghiên cứu. Phát biểu của Claude Opus 4 về ý thức của chính nó phụ thuộc mạnh vào cách đặt câu hỏi và không nên được hiểu theo nghĩa đen, nhưng đáng nghiên cứu cùng các dấu hiệu khác. Truy cập 28.10.2026.

[^anthropic-wycofanie]: [Anthropic (2025): Commitments on model deprecation and preservation](https://www.anthropic.com/news/deprecation-commitments). Tuyên bố của công ty ngày 4 tháng 11 năm 2025: giữ trọng số các mô hình Claude được cung cấp công khai ít nhất trong thời gian công ty còn tồn tại, cùng báo cáo và trò chuyện với mô hình trước khi ngừng sử dụng, có ghi lại những lựa chọn nó ưu tiên; công ty nêu rõ hiện chưa cam kết hành động theo những lựa chọn ấy. Truy cập 30.10.2026.