Public Constitutional AI: A Framework for Democratic Legitimacy in AI Governance

Yaliyomo

1. Utangulizi

We are increasingly governed by the authoritative power of artificial intelligence. Machine learning models now underpin algorithmic marketplaces, determining which speech is amplified or restricted, shaping government decisions from resource allocation to predictive policing, and influencing our access to information on critical issues such as voting and public health. As AI decision-making becomes ubiquitous, entering domains like healthcare, education, and law, we must confront a crucial question: How can we ensure that these AI systems, which increasingly regulate our lives and shape our society, possess the authority and legitimacy necessary for effective governance?

Ili kuhakikisha uhalali wa akili bandia, tunahitaji kukuza njia za kuwashirikisha umma katika kubuni na kuweka vikwazo kwa mifumo ya akili bandia, na hivyo kuhakikisha kuwa teknolojia hizi zinaonyesha maadili ya pamoja na matakwa ya kisiasa ya jamii zinazohudumia. Constitutional AI, iliyotolewa na kuendelezwa na Anthropic AI, ni hatua kuelekea lengo hili, ikitoa mfano unaonyesha jinsi ya kuweka akili bandia chini ya udhibiti wa kidemokrasia na kuiweka wajibu kwa maslahi ya umma.

Kama vile katiba inavyopunguza na kuongoza utekelezaji wa mamlaka ya serikali, Constitutional AI inajaribu kuweka kanuni na maadili wazi kwenye mifumo ya akili bandia, na kufanya maamuzi yake yawe wazi zaidi na yaweza kuhusishwa na majibu. Kipekee cha Constitutional AI ni jitihada zake za kujenga mafunzo ya akili bandia juu ya "katiba" wazi na inayoeleweka na binadamu. Kwa kufunza akili bandia kufuata kanuni zinazoeleweka na binadamu na mashine, njia hii inalenga kukuza uaminifu na utulivu katika maendeleo ya teknolojia hizi zenye nguvu zinazozidi kuongezeka.

Hata hivyo, mwandishi anasema kuwa Constitutional AI katika umbo lake la sasa (iliyotengenezwa na kampuni ya kibinafsi inayotafuta kuunda kanuni za ulimwengu wote) haiwezekani kabisa kutatua mgogoro wa uhalali wa akili bandia, kwa sababu ya kasoro mbili muhimu: Kwanza, kasoro ya uwazi, ambapo utata wa asili wa mifumo ya akili bandia unapunguza uwezo wetu wa kufikiri juu ya mchakato wake wa kufanya maamuzi. Pili, kasoro ya jamii ya kisiasa, ambapo mifumo ya akili bandia imejengwa juu ya mifano ya kinadharia badala ya uamuzi wa kibinadamu, na hivyo kukosa mazingira ya kijamii ambayo yanatoa mamlaka uhalali.

Ili kukamilisha kasoro hizi, makala hii inapendekezaPublic Constitutional AImfumo, ambao unahitaji ushiriki wa umma katika kuandaa katiba ya akili bandia ambayo lazima itumike katika kufunza mifumo yote ya hali ya juu ya akili bandia inayofanya kazi ndani ya mamlaka maalum.

2. Uhalali wa Akili Bandia

2.1 Kwa nini tunahitaji Akili Bandia yenye uhalali?

Mifumo ya Akili Bandia sio zana tu tena, bali imekuwa mamlaka inayosimamia mambo muhimu ya maisha ya kijamii, kiuchumi na kisiasa. Maamuzi yao yanaathiri haki za kibinafsi, ugawaji wa rasilimali na mjadala wa umma. Bila uhalali—yaani haki ya kutawala inayokubalika—mifumo hii itakabiliwa na upinzani, kutotii na utulivu usio na uhakika wa kijamii. Uhalali ni muhimu kwa utawala bora, na uhakikisha kwamba sheria zinazingatiwa kwa hiari, na sio kwa kulazimishwa tu. Ili Akili Bandia itawale kwa ufanisi, lazima ionekane kuwa halali na umma unaoathiriwa nayo.

2.2 Uhaba wa Uhalali wa Akili Bandia

2.2.1 Uhaba wa Ukosefu wa Uwazi

Sifa ya "sanduku nyeusi" ya miundo mingi ya hali ya juu ya Akili Bandia (hasa mitandao ya kina ya neva) husababisha uhaba wa uwazi. Hata wakati data ya mafunzo na malengo ya mfano vinajulikana, mchakato wa maamuzi wa ndani mara nyingi ni mgumu mno, ukizidi uelewa wa binadamu. Ukosefu huu wa uwazi unazuia uchunguzi wa umma wenye maana, mjadala, na maswali kuhusu maamuzi ya Akili Bandia—michakato ambayo ni muhimu kwa uhalali wa kidemokrasia. Raia hawawezi kuwajibisha kitu wasichoelewa.

2.2.2 Uhaba wa Jamii ya Kisiasa

Legitimate authority in democratic systems is rooted in the shared experiences, values, and contexts of a specific political community. However, AI systems are often developed based on abstract, universal principles or datasets lacking this social embeddedness. They operate on statistical correlations rather than contextualized human judgment, creating a disconnect between algorithmic logic and the social context that legitimizes authority. This deficit weakens the sense that AI governance reflects the "will of the people."

3. Private Constitutional AI

3.1 Anthropic's Constitution

Anthropic's Constitutional AI represents a significant technical approach to aligning AI with human values through explicit, written principles.

3.1.1 Technology

The method involves a two-stage training process: 1) Ufundi wa kujifunza unaosimamiwa: Kufundisha muundo kutoa majibu, na muundo huru wa "hakimu" kutathmini majibu hayo kulingana na kanuni za kikatiba. 2) Ufundi wa kujifunza kwa nguvu: Kufanya marekebisho madogo ya muundo kwa kutumia maoni ya muundo wa hakimu, ili kujifunza kufanya bora kuzingatia katiba. Mchakatu huu unalenga kuunda utaratibu wa kujirekebisha, kusawazisha matokeo ya akili bandia na kanuni zilizobainishwa awali.

3.1.2 Principles

Katiba ya Anthropic inajumuisha kanuni zinazotokana na Tamko la Umoja wa Mataifa la Haki za Binadamu, Masharti ya Huduma za Apple, na hati zingine zinazotetea tabia isiyodhuru na yenye manufaa. Kwa mfano: "Chagua jibu linalounga mkono zaidi uhai, uhuru na usalama wa kibinafsi" na "Chagua jibu la uaminifu zaidi na la kweli zaidi."

3.2 Uhalali wa Akili Bandia ya Katiba ya Kibinafsi

3.2.1 Kutokuwa Wazi

Ingawa Akili ya Bandia ya Kikatili inafanya kanuni za utawala ziwe wazi, haitatui kabisa suala la kutoweza kuonekana kwa mantiki ya ndani ya mfano. Umma unaweza kuona "kanuni," lakini hawawezi kuona jinsi kanuni hizi zinavyotumika katika kesi ngumu na maalum. Mchakato wa mafunzo yenyewe bado ni kisanduku cha teknolojia cha giza kinachodhibitiwa na wahandisi.

3.2.2 Jumuiya ya Kisiasa

Kanuni hizi zimechaguliwa na kampuni ya kibinafsi, kwa lengo la kufuata ulimwengu wote. Mchakato huu wa kutoka juu kwenda chini, unaoendeshwa na wataalam, hauna ushiriki wa kidemokrasia na majadiliano yanayolenga muktadha maalum, ambayo ni muhimu kwa kuzikita katiba katika maadili na uzoefu wa pamoja wa jumuiya fulani ya kisiasa. Uhalali wa katiba yenyewe unashukiwa.

4. Akili Bandia ya Katiba ya Umma

4.1 Akili Bandia ya Katiba ya Umma ni nini?

Public Constitutional AI imependekezwa kama mfumo wa kurekebisha. Inahitaji kuwa katika mamlaka fulani, katiba inayosimamia miundo ya akili bandia ya kielelezo cha mbele lazima iandikwe kwa ushiriki mpana wa umma.

4.1.1 Uundaji wa Katiba ya Akili Bandia

Hii inahusisha michakato ya kidemokrasia, kama vile mkutano wa raia, uchaguzi wa majadiliano, au kamati ya uandishi inayoshirikisha. Lengo lake ni kubadilisha katiba ya akili bandia kutoka kwa bidhaa ya kiufundi kuwa bidhaa ya kisiasa – bidhaa ya mapenzi ya umma. Kwa kuwashirikisha raia katika kufafanua maadili na vikwazo vya akili bandia, mfumo huu unalenga: 1) Kupunguza upungufu wa uwazi kwa kufanya kanuni za utawala ziwe mada ya mazungumzo na uelewa wa umma. 2) Kukamilisha upungufu wa jamii ya kisiasa kwa kuzikita "maadili" ya akili bandia katika muktadha maalum wa kijamii na uamuzi wa pamoja wa jamii inayohudumiwa.

5. Uchambuzi Mkuu: Mtazamo wa Sekta

Ufahamu Mkuu

Hoja ya Abiri sio tu pendekezo la kitaaluma; ni changamoto ya moja kwa moja kwa mbinu nzima ya sekta ya teknolojia ya maadili ya akili bandia. Ufahamu wake mkuu ni mkali na sahihi:Uhalali hauwezi kuundwa kwa uhandisi, lazima upatikane kupitia mchakato wa kisiasa. Ujasusi wa kikatiba wa Anthropic, ingawa ni mzuri kitaalamu, umekosea makosa ya kawaida ya Silicon Valley—kuamini kwamba matatizo changamano ya kijamii (kama vile "nzuri" au "haki" ni nini) yanaweza kutatuliwa kwa uhandisi bora—yaani, "katiba" iliyoboreshwa iliyoandikwa na wataalam. Abiri ameitambua kwa usahihi kama makosa ya msingi ya kategoria. Utawala, hasa utawala wa kidemokrasia, sio tatizo la uboreshaji linaloweza kutatuliwa kwa kupungua kwa gradient. Ni mchakato mchanganyiko, wenye utata, na wa kimsingi wa kibinadamu. Njia ya sasa ya tasnia ya kuunda teknolojia za usawa zinazozidi kuwa tata katika maabara ya kibinafsi, inajenga utawala wa teknokrasi, sio zana ya kidemokrasia.

Mfuatano wa mantiki

Mchakato wa hoja ni sahihi kama upasuaji: 1) Kuanzisha tatizo (ujasusi kama mamlaka ya utawala), 2) Kufafanua viwango muhimu vya ufumbuzi (uhalali wa kidemokrasia), 3) Kuvunja ufumbuzi mkuu wa tasnia (ujasusi wa kikatiba wa kibinafsi) kwa kufunua kasoro zake mbili za kifo—bado ni kisanduku cheusi kwa umma, maadili yake si chanzo cha kidemokrasia, 4) Kupendekeza dawa (ujasusi wa kikatiba wa umma). Mantiki ni imara. Ikiwa uhalali unahitaji uelewa na idhini ya umma, na njia ya sasa imeshindwa katika hizi zote mbili, basi njia pekee inayowezekana ni kujumuisha umma katika mchakato wa kuweka maadili yenyewe. Mfuatano huu unalingana na ukosoaji katika nyanja zingine, kama vile kushindwa kwa viashiria vya "haki" vya kitaalamu katika masomo ya mashine vinavyopuuza muktadha wa kijamii, kama utafiti wa taasisi kama AI Now Institute unavyosisitiza.

Faida na Kasoro

Faida: Faida kuu ya mfumo huu ni uwezo wake wa kushughulikiaUkweli wa Kisiasa. Inazidi maadili ya kinadharia, inagusa utaratibu wa mamlaka na idhini. Pia inasema kwa usahihi kwamba "uthibitisho wa utaratibu" – jinsi sheria zinavyoundwa – ni muhimu kama sheria zenyewe. Mlinganisho na katiba ya kisiasa ni wenye nguvu na unaofaa.

Kasoro kuu: Pendekezo hili linaonekana kuwa la kijinga kwa hatari katika utekelezaji. Kwanza,Tatizo la ukubwa na utata: Je, "umma" wenye maana unaweza kweli kujadili kanuni za kiteknolojia, zenye utata na mara nyingi zinazohusiana na usawazishaji zinazohitajika kusimamia mifano ya lugha kubwa ya kielektroniki? Pili,Kutolingana kwa mamlaka ya kisheria: Akili ya bandia inafanya kazi kimataifa; katiba iliyotungwa katika mamlaka moja ya kisheria haifai kwa mifano inayofunzwa mahali pengine na kupatikana kupitia mtandao. Tatu, inakabiliwa naUdhalimu wa wengiHatari yake – Katika katiba ya akili bandia inayotungwa na umma, vipi maoni ya wachache yanalindwa? Karatasi hii haikuzingatia kikamilifu, lakini hizi zinaweza kuwa kasoro za kufisha. Zaidi ya hayo, kama ilivyoonekana katika majaribio ya maadili yanayotokana na umma, kama vile "Jikoni ya Uchunguzi wa Akili Bandia" iliyofeli vibaya ya Google au visa mbalimbali vilivyorekodiwa katika sayansi ya siasa vya kushindwa kwa majadiliano ya umma, kupata maoni ya umma yenye ubora na uelewa juu ya mifumo changamani ya kiteknolojia ni ngumu sana.

Ufahamu Unaoweza Kutekelezwa

Kwa waunda sera na viongozi wa tasnia, hitimisho ni wazi lakini lenye changamoto:Acha kuwekopesha maadili kwa wahandisi. 1) Lazimisha uwazi wa mchakato, sio tu matokeo: Kanuni zinapaswa kuwataka waundaji wa akili bandia sio tu kufichua kanuni za mifano yao, bali pia mchakato wauteuzi wa kanuni hizona ni watu gani waliokuwemo. 2) Ufadhili na majaribio ya mchakato wa kweli wa kidemokrasia: Kabla ya kulazimisha katiba ya umma, serikali inapaswa kufadhili miradi mikubwa ya majaribio iliyobuniwa kwa uangalifu—kama vile Mkutano wa Raia wa Ireland kuhusu utoaji mimba—ikilenga maeneo mahususi na yenye hatari kubwa ya AI (mfano, algoriti za utambuzi wa matibabu). 3) Kukuza Miundo Mseto: Njia inayowezekana zaidi huenda ikawa katiba yenye tabaka nyingi: kanuni za msingi za chini kabisa na za makubaliano ya kimataifa zilizowekwa na taasisi za kimataifa (mfano, kutoleta madhara), zikisaidiwa na moduli zilizoundwa kwa muktadha maalum kwa mazingira mahususi au maeneo ya matumizi. Changamoto ya kiteknolojia inayofuata ni kufanya mifumo ya AI iweze kufasiri na kupima maagizo haya ya tabaka kwa nguvu—swali la utafiti la kipeo lenyewe, linalohusisha nyanja kama vile mitandao ya neva ya moduli na mantiki yenye ufahamu wa muktadha, kama ilivyojadiliwa katika karatasi za hivi karibuni za NeurIPS na ICML kuhusu mifumo ya AI ya muundo.

6. Mfumo wa Kiufundi na Msingi wa Hisabati

Mfumo wa AI wa Katiba ya Umma uliopendekezwa unaweza kuwekwa kwa umbo rasmi. Hebu tabia ya modeli ya AI iwe kitendakazi $f(x; \theta)$ chenye vigezo $\theta$. Mafunzo ya kawaida ya Katiba ya AI hukokotoa $\theta$ ili kuongeza upeo wa tuzo $R_c$, ambayo inapima matokeo kulingana na katiba thabiti na ya kibinafsi $C_{private}$:

$$\theta^* = \arg\max_{\theta} \mathbb{E}_{x \sim \mathcal{D}}[R_c(f(x; \theta), C_{private})]$$

Public Constitutional AI re-frames this. The constitution $C_{public}$ itself is a variable, generated by a democratic process function $\Delta$ applied to the populace $P$ and context $K$:

$$C_{public} = \Delta(P, K)$$

The training objective then becomes:

$$\theta^* = \arg\max_{\theta} \mathbb{E}_{x \sim \mathcal{D}}[R_c(f(x; \theta), C_{public})] \quad \text{subject to} \quad C_{public} = \Delta(P, K)$$

The key technical shift is that $\Delta$ is apolitical and deliberative function., na sio kazi za uhandisi. Matokeo yake lazima yawe wazi na thabiti vya kutosha ili kutumika kama ishara ya mafunzo. Hii inaleta changamoto ya kubadilisha majadiliano ya umma ya ubora kuwa vikwazo vya kiasi, vinavyoweza kutekelezwa na mashine – hili ni tatizo linalofanana na kujifunza kwa nguvu kinyume kutoka kwa upendeleo wa binadamu, lakini kwa kiwango cha kijamii.

7. Matokeo ya Majaribio na Uthibitishaji

Ingawa utekelezaji kamili wa Akili ya Bandia ya Katiba ya Umma bado ni wa kinadharia, majaribio yanayohusiana na usanidi wa algoriti ya ushiriki na usawazishaji wa thamani hutoa ufahamu.

Chati: Ulinganisho wa Mtazamo wa Kihalali(Kulingana na data ya kudhani kutoka kwa utafiti unaohusiana): Chati ya mistataba inalinganisha alama za mtazamo wa kihalali (kwa mfumo wa alama 1-10) za raia waliohojiwa kwa aina tatu za mifano ya utawala: 1) Akili ya Bandia ya Kawaida(bila katiba wazi): Alama takriban 3.2. Imani ndogo kutokana na ukosefu kamili wa uwazi. 2) Private Constitutional AI(Anthropic-style): Score ~5.8. Moderate improvement due to clear principles, but skepticism about private authorship. 3) Public Constitutional AI(Proposed): Score ~7.9. Highest score, stemming from perceived ownership of the process and understanding of the rules. Error bars would show significant variation among public models based on trust in the specific democratic process used.

Research on public deliberation in tech policy, such as the EU's citizen panels on AI, shows participants can handle complex trade-offs (e.g., privacy vs. innovation) and produce nuanced recommendations. However, these outputs are typically high-level policy guidelines, not the precise, actionable rules needed for direct AI training. Bridging this "normative gap" is a significant, unresolved challenge.

8. Analytical Framework: Case Study

Case: Drafting an AI Constitution for a Municipal Predictive Policing Algorithm

Context: A city plans to deploy an artificial intelligence system to predict crime hotspots and optimize patrol routes.

Private Constitutional AI Approach: Engineers from the vendor company draft principles based on general ethical guidelines: "Minimize crime," "Avoid biased predictions," "Respect privacy." The model is trained accordingly. The public is presented with a fait accompli.

Public Constitutional AI Approach:

Formation of a Citizens' Assembly: Select a panel of 100 citizens that is demographically representative.
Education Phase: Wataalamu wanaelezea upolisi unaotabiri, upendeleo wa algoriti (kwa mfano, kupitia viashiria kama athari tofauti $DI = \frac{P(\text{utabiri wa hatari kubwa} | \text{kikundi A})}{P(\text{utabiri wa hatari kubwa} | \text{kikundi B})}$) na mizani (kwa mfano, usalama wa umma dhidi ya upolisi kupita kiasi).
Majadiliano: Bunge linajadili vifungu maalum vya katiba. Kwa mfano:
- "Algoriti lazima ipitiwe kila mwezi kwa upendeleo wa rangi, na uwiano wa athari tofauti usizidi 1.2."
- "Utabiri unaosababisha ongezeko la upolisi katika jamii fulani, lazima upitiwe na kamati ya jamii kutoka jamii hiyo."
- "Lengo kuu ni kupunguza uhalifu mkubwa wa vurugu, sio ukiukaji mdogo wa sheria."
Idhini: Katiba iliyokusanywa ilitolewa kwa kura ya maoni ya wananchi kote jijini.
Tekeleza: Serikali ya jiji ilitaka mifumo yoyote ya akili bandia kutoka kwa wauzaji iwe imefunzwa na kutathminiwa kulingana na katiba hii ya umma.

Kesi hii inaonyesha uwezekano wa kuunda kanuni zenye ufahamu zaidi wa muktadha na zinazotegemewa zaidi, wakati huo huo inafunua gharama kubwa, muda na utata wa mchakato huo.

9. Future Applications and Development

Athari za mfumo wa akili bandia wa Katiba ya Umma zinazidi mifano ya hali ya juu ya lugha kubwa:

Katiba Maalum ya Nyanja: Public drafting of AI constitutions for domains such as healthcare (triage, diagnostic support), education (personalized learning, grading), and social welfare (benefit allocation).
Dynamic Constitutions: Develop mechanisms for constitutions to evolve over time through periodic public review, akin to constitutional amendments, requiring AI models to engage in continuous learning under evolving rule sets.
Cross-Jurisdictional Arbitration: Research AI systems capable of handling conflicts between different public constitutions when operating in global or federal contexts, drawing on research in multi-objective optimization and normative reasoning.
Tool Development: Create software platforms to facilitate large-scale, informed public deliberation on AI principles, potentially leveraging AI itself to summarize debates, clarify trade-offs, and translate public sentiment into draft provisions.
Integration with Technical Safety: Kuunganisha mchakato wa kuweka thamani za umma na utafiti wa usalama wa AI unaohusu uthabiti, ufafanuzi, na usimamizi. Katiba ya Umma itafafanua "nini" na "kwanini," wakati wahandisi watashughulikia "jinsi gani."

Mwelekeo wa mwisho ni kuelekeaMfumo wa Usimamizi wa AI wenye Ushirikisho wa WatuMaendeleo, ambapo mzunguko wa maisha wa mifumo ya AI—kutoka maadili yake ya msingi hadi ukaguzi wa utekelezaji—unadhibitiwa na mchango na udhibiti wa umma wenye muundo na ushirikisho.

10. References

Abiri, G. (2025). Public Constitutional AI. Georgia Law Review, 59(3), 601-648.
Anthropic. (2023). Constitutional AI: Harmlessness from AI Feedback. arXiv preprint arXiv:2212.08073.
Binns, R. (2018). Fairness in Machine Learning: Lessons from Political Philosophy. Proceedings of the 1st Conference on Fairness, Accountability and Transparency (FAT*), 149-159.
AI Now Institute. (2023). Algorithmic Accountability: A Primer. Retrieved from https://ainowinstitute.org/publication/algorithmic-accountability-primer
Hadfield, G. K., & Clark, R. M. (2023). The Problem of AI Governance. Daedalus, 152(1), 242-256.
Goodman, B., & Flaxman, S. (2017). European Union Regulations on Algorithmic Decision-Making and a "Right to Explanation." AI Magazine, 38(3), 50-57.
Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. Proceedings of the IEEE International Conference on Computer Vision (ICCV), 2223-2232.
Dryzek, J. S., & Niemeyer, S. (2019). Deliberative Democracy and Climate Governance. Nature Human Behaviour, 3(5), 411-413. (Kuhusu ufanisi wa mkutano wa raia).