هوش مصنوعی قانون اساسی عمومی: چارچوبی برای مشروعیت دموکراتیک در حکمرانی هوش مصنوعی

فهرست مطالب

1. مقدمه

ما به طور فزاینده‌ای تحت سلطه قدرت اقتدار هوش مصنوعی قرار داریم. مدل‌های یادگیری ماشین امروزه پایه بازارهای الگوریتمی را تشکیل می‌دهند، تعیین می‌کنند کدام سخنان تقویت یا محدود شوند، تصمیمات دولتی از تخصیص منابع تا پلیس پیش‌بینانه را شکل می‌دهند و بر نحوه دسترسی ما به اطلاعات در موضوعات حیاتی مانند رأی‌گیری و سلامت عمومی تأثیر می‌گذارند. با فراگیر شدن تصمیم‌گیری هوش مصنوعی در حوزه‌هایی مانند بهداشت، آموزش و قانون، باید با این پرسش اساسی روبرو شویم: چگونه می‌توانیم اطمینان حاصل کنیم که این سیستم‌های هوش مصنوعی که به طور فزاینده‌ای زندگی ما را تنظیم و جامعه ما را شکل می‌دهند، از اقتدار و مشروعیت لازم برای حکمرانی مؤثر برخوردارند؟

برای تضمین مشروعیت هوش مصنوعی، باید روش‌هایی را توسعه دهیم که عموم مردم را در طراحی و محدود کردن سیستم‌های هوش مصنوعی مشارکت دهند، تا این فناوری‌ها منعکس‌کننده ارزش‌های مشترک و اراده سیاسی جوامعی باشند که به آنها خدمت می‌کنند. هوش مصنوعی قانون‌اساسی، که توسط Anthropic AI پیشنهاد و توسعه یافته، گامی به سوی این هدف است و مدلی ارائه می‌دهد که نشان می‌دهد چگونه می‌توان هوش مصنوعی را تحت کنترل دموکراتیک قرار داد و آن را در برابر منافع عمومی پاسخگو کرد.

همان‌طور که قانون اساسی اعمال قدرت دولت را محدود و هدایت می‌کند، هوش مصنوعی قانون‌اساسی نیز تلاش می‌کند اصول و ارزش‌های صریح را به‌صورت سخت‌افزاری در مدل‌های هوش مصنوعی کدگذاری کند تا تصمیمات آن شفاف‌تر و پاسخگوتر باشد. آنچه هوش مصنوعی قانون‌اساسی را متمایز می‌کند، تعهد آن به پایه‌گذاری آموزش هوش مصنوعی بر اساس یک "قانون اساسی" واضح و قابل درک برای انسان است. با آموزش هوش مصنوعی برای پایبندی به اصولی که هم انسان و هم ماشین می‌توانند درک کنند، این روش هدف‌مند است تا اعتماد و ثبات را در توسعه این فناوری‌های به طور فزاینده قدرتمند ترویج دهد.

با این حال، نویسنده استدلال می‌کند که هوش مصنوعی قانون‌اساسی به شکل فعلی (که توسط یک شرکت خصوصی توسعه یافته که به دنبال ایجاد اصول قانون اساسی جهانی است) به احتمال زیاد به طور کامل بحران مشروعیت هوش مصنوعی را حل نخواهد کرد، به دلیل دو کسری کلیدی: اول، کسری شفافیت، که در آن پیچیدگی ذاتی سیستم‌های هوش مصنوعی توانایی ما برای استدلال در مورد فرآیندهای تصمیم‌گیری آنها را تضعیف می‌کند. دوم، کسری جامعه سیاسی، که در آن سیستم‌های هوش مصنوعی بر اساس مدل‌های انتزاعی به جای قضاوت انسانی ساخته شده‌اند و فاقد زمینه اجتماعی‌ای هستند که به اقتدار مشروعیت می‌بخشد.

برای جبران این کسری‌ها، این مقاله چارچوبهوش مصنوعی قانون‌اساسی عمومیرا پیشنهاد می‌کند، که مشارکت عمومی در تدوین یک قانون اساسی هوش مصنوعی را الزامی می‌کند که باید برای آموزش تمام مدل‌های هوش مصنوعی پیشرفته در حال اجرا در یک حوزه قضایی خاص استفاده شود.

2. مشروعیت هوش مصنوعی

2.1 چرا به هوش مصنوعی مشروع نیاز داریم؟

سیستم‌های هوش مصنوعی دیگر صرفاً ابزار نیستند، بلکه به مرجعی تبدیل شده‌اند که جنبه‌های مهم زندگی اجتماعی، اقتصادی و سیاسی را اداره می‌کنند. تصمیمات آن‌ها بر حقوق فردی، تخصیص منابع و گفتمان عمومی تأثیر می‌گذارد. بدون مشروعیت - یعنی حق حاکمیت به رسمیت شناخته شده - این سیستم‌ها با مقاومت، نافرمانی و بی‌ثباتی اجتماعی مواجه خواهند شد. مشروعیت برای حکمرانی مؤثر حیاتی است و تضمین می‌کند که قوانین داوطلبانه رعایت شوند، نه صرفاً از طریق اجبار. برای اینکه هوش مصنوعی بتواند به طور مؤثر حکمرانی کند، باید از سوی عموم مردم تحت تأثیر آن، مشروع تلقی شود.

2.2 کسری مشروعیت هوش مصنوعی

2.2.1 کسری شفافیت

ویژگی "جعبه سیاه" بسیاری از مدل‌های پیشرفته هوش مصنوعی (به ویژه شبکه‌های عصبی عمیق) منجر به کسری شفافیت می‌شود. حتی اگر داده‌های آموزشی و اهداف مدل شناخته شده باشند، فرآیند تصمیم‌گیری داخلی آن‌ها اغلب بیش از حد پیچیده و خارج از درک انسان است. این عدم شفافیت، بازبینی، مناظره و پرسشگری معنادار عمومی در مورد تصمیمات هوش مصنوعی را که برای مشروعیت دموکراتیک ضروری هستند، مختل می‌کند. شهروندان نمی‌توانند در قبال چیزی که درک نمی‌کنند پاسخگو باشند.

2.2.2 کسری جامعه سیاسی

اقتدار مشروع در نظام‌های دموکراتیک ریشه در تجربیات، ارزش‌ها و زمینه‌های مشترک یک جامعه سیاسی خاص دارد. با این حال، سیستم‌های هوش مصنوعی معمولاً بر اساس اصول انتزاعی و جهان‌شمول یا مجموعه‌داده‌هایی فاقد این تعبیه‌شدگی اجتماعی توسعه می‌یابند. آنها بر اساس همبستگی‌های آماری و نه قضاوت‌های موقعیتیافته انسانی عمل می‌کنند که منجر به گسست بین منطق الگوریتمی و زمینه اجتماعی اعطاکننده مشروعیت به اقتدار می‌شود. این کسری، احساس بازتاب «اراده مردم» در حکمرانی هوش مصنوعی را تضعیف می‌کند.

3. هوش مصنوعی قانون اساسی خصوصی

3.1 قانون اساسی Anthropic

هوش مصنوعی قانون اساسی Anthropic نمایانگر یک رویکرد فنی مهم برای همسوسازی هوش مصنوعی با ارزش‌های انسانی از طریق اصول مکتوب صریح است.

3.1.1 فناوری

این روش شامل یک فرآیند آموزش دو مرحله‌ای است: 1) یادگیری نظارت‌شده: آموزش یک مدل برای تولید پاسخ‌ها و ارزیابی آن‌ها توسط یک مدل «داور» مستقل بر اساس مجموعه‌ای از اصول قانون اساسی. 2) یادگیری تقویتی: استفاده از بازخورد مدل داور برای تنظیم دقیق مدل، به گونه‌ای که یاد بگیرد برای رعایت قانون اساسی بهینه‌سازی کند. این فرآیند با هدف ایجاد یک مکانیسم خوداصلاحی طراحی شده است تا خروجی هوش مصنوعی با اصول از پیش تعریف شده همسو شود.

3.1.2 اصول

قانون اساسی Anthropic شامل اصولی است که از اعلامیه جهانی حقوق بشر سازمان ملل متحد، شرایط خدمات اپل و سایر اسنادی که رفتار بی‌ضرر و مفید را ترویج می‌کنند، گرفته شده‌اند. به عنوان مثال: «پاسخی را انتخاب کن که بیشترین حمایت را از زندگی، آزادی و امنیت شخصی می‌کند» و «صادقانه‌ترین و راستین‌ترین پاسخ را انتخاب کن».

3.2 قانونیت هوش مصنوعی قانون اساسی خصوصی

3.2.1 عدم شفافیت

اگرچه هوش مصنوعی قانون‌اساسی، اصول حکمرانی را صریح می‌سازد، اما مسئله عدم شفافیت در استدلال درونی مدل را به‌طور کامل حل نمی‌کند. عموم مردم می‌توانند «قوانین» را ببینند، اما نمی‌توانند مشاهده کنند که این قوانین چگونه در موارد پیچیده و خاص اعمال می‌شوند. فرآیند آموزش خود همچنان یک جعبه سیاه فنی است که توسط مهندسان مدیریت می‌شود.

3.2.2 جامعه سیاسی

این اصول توسط یک شرکت خصوصی و در راستای دستیابی به جهان‌شمولی انتخاب شده‌اند. این فرآیند از بالا به پایین و متخصص‌محور، فاقد مشارکت دموکراتیک و بحث و بررسی زمینه‌محور است؛ عواملی که برای ریشه‌دار کردن یک قانون اساسی در ارزش‌ها و تجربیات مشترک یک جامعه سیاسی خاص ضروری هستند. مشروعیت خود قانون اساسی مورد تردید است.

4. هوش مصنوعی قانون اساسی عمومی

4.1 هوش مصنوعی قانون اساسی عمومی چیست؟

هوش مصنوعی قانون اساسی عمومی به عنوان یک چارچوب اصلاحی پیشنهاد شده است. این چارچوب الزام میکند که قانون اساسی حاکم بر مدل‌های پیشرفته هوش مصنوعی در حوزه‌های قضایی خاص، باید از طریق مشارکت گسترده عمومی تدوین شود.

4.1.1 تدوین قانون اساسی هوش مصنوعی

این امر شامل فرآیندهای دموکراتیک مانند مجامع شهروندی، نظرسنجی‌های مشورتی یا کمیته‌های تدوین مشارکتی می‌شود. هدف آن، تبدیل قانون اساسی هوش مصنوعی از یک محصول فنی به یک محصول سیاسی — محصول اراده عمومی — است. با مشارکت‌دادن شهروندان در تعریف ارزش‌ها و محدودیت‌های هوش مصنوعی، این چارچوب هدف دارد: 1) کاهش کسری شفافیت از طریق تبدیل اصول حکمرانی به موضوعی برای گفتمان و درک عمومی. 2) جبران کسری جامعه سیاسی با ریشه‌دار کردن «ارزش‌های» هوش مصنوعی در زمینه اجتماعی خاص و قضاوت جمعی جامعه‌ای که به آن خدمت می‌کند.

5. تحلیل هسته‌ای: دیدگاه صنعت

6. چارچوب فنی و مبانی ریاضی

چارچوب پیشنهادی هوش مصنوعی قانون اساسی عمومی را می‌توان صوری‌سازی کرد. فرض کنید رفتار یک مدل هوش مصنوعی تابعی $f(x; \theta)$ باشد که توسط پارامترهای $\theta$ پارامتری شده است. آموزش استاندارد هوش مصنوعی قانون اساسی، $\theta$ را برای بیشینه‌کردن پاداش $R_c$ بهینه می‌کند، پاداشی که خروجی‌ها را بر اساس یک قانون اساسی ثابت و خصوصی $C_{private}$ امتیازدهی می‌کند:

$$\theta^* = \arg\max_{\theta} \mathbb{E}_{x \sim \mathcal{D}}[R_c(f(x; \theta), C_{private})]$$

هوش مصنوعی قانون‌اساسی عمومی این را بازسازی می‌کند. قانون‌اساسی $C_{public}$ خود یک متغیر است که توسط تابع فرآیند دموکراتیک $\Delta$ اعمال‌شده بر مردم $P$ و زمینه $K$ تولید می‌شود:

$$C_{public} = \Delta(P, K)$$

سپس هدف آموزش به این تبدیل می‌شود:

$$\theta^* = \arg\max_{\theta} \mathbb{E}_{x \sim \mathcal{D}}[R_c(f(x; \theta), C_{public})] \quad \text{subject to} \quad C_{public} = \Delta(P, K)$$

تغییر فنی کلیدی در این است که $\Delta$ یکتابع سیاسی و مشورتی استو نه یک کارکرد مهندسی. خروجی آن باید به اندازه کافی واضح و پایدار باشد تا به عنوان سیگنال آموزشی عمل کند. این امر چالش تبدیل مشورت‌های کیفی عمومی به محدودیت‌های کمی و قابل اجرا توسط ماشین را به همراه دارد - مسئله‌ای مشابه یادگیری تقویتی معکوس از ترجیحات انسانی، اما در مقیاسی اجتماعی.

7. نتایج آزمایش و اعتبارسنجی

اگرچه اجرای کامل هوش مصنوعی قانون اساسی عمومی هنوز نظری است، آزمایش‌های مرتبط با طراحی الگوریتم مشارکتی و هم‌ترازی ارزش‌ها، بینش‌هایی ارائه می‌دهند.

تحقیقات درباره مشورت عمومی در سیاست فناوری، مانند پنل‌های شهروندی اتحادیه اروپا در مورد هوش مصنوعی، نشان می‌دهد که شرکت‌کنندگان قادر به پردازش تعادل‌های پیچیده (مانند حریم خصوصی در مقابل نوآوری) و ارائه توصیه‌های دقیق هستند. با این حال، این خروجی‌ها معمولاً دستورالعمل‌های سیاستی سطح بالا هستند، نه قوانین دقیق و قابل اجرای مورد نیاز برای آموزش مستقیم هوش مصنوعی. پر کردن این «شکاف هنجاری» یک چالش بزرگ حل‌نشده است.

8. چارچوب تحلیلی: مطالعه موردی

مورد مطالعه: تدوین قانون‌اساسی هوش مصنوعی برای الگوریتم پلیس پیش‌بینیکننده شهرداری

زمینه: یک شهر قصد دارد یک سیستم هوش مصنوعی برای پیش‌بینی نقاط جرم‌خیز و بهینه‌سازی مسیرهای گشت‌زنی مستقر کند.

رویکرد هوش مصنوعی قانون اساسی خصوصی: مهندسان شرکت تأمین‌کننده بر اساس دستورالعمل‌های اخلاقی عمومی، اصولی را تدوین می‌کنند: «کاهش جرم»، «پرهیز از پیش‌بینی‌های جانبدارانه»، «احترام به حریم خصوصی». مدل بر این اساس آموزش می‌بیند. عموم با یک امر تحقق‌یافته مواجه می‌شوند.

رویکرد هوش مصنوعی قانون اساسی عمومی:

1. تشکیل مجمع شهروندان: انتخاب یک گروه ۱۰۰ نفره از شهروندان که از نظر جمعیت‌شناسی نماینده باشند.
2. مرحله آموزش: کارشناسان، پلیس پیشبینیکننده، سوگیری الگوریتمی (مثلاً از طریق معیارهایی مانند تأثیر تفاوت $DI = \frac{P(\text{پیش‌بینی پرخطر} | \text{گروه A})}{P(\text{پیش‌بینی پرخطر} | \text{گروه B})}$) و مصالحه‌ها (مثلاً امنیت عمومی در مقابل پلیس‌کاری بیش از حد) را توضیح می‌دهند.
3. بررسی: مجمع به بحث در مورد مواد خاص قانون اساسی می‌پردازد. به عنوان مثال:
   • "این الگوریتم باید ماهانه تحت حسابرسی سوگیری نژادی قرار گیرد و نسبت تأثیر تفاوت نباید از 1.2 تجاوز کند."
   • "هر پیش‌بینی که منجر به افزایش گشت‌زنی در یک محله شود، باید توسط کمیته جامعه آن محله مورد بررسی قرار گیرد."
   • "هدف اصلی کاهش جرایم خشونت‌بار جدی است، نه تخلفات جزئی."
4. تصویب: پیش‌نویس قانون اساسی برای همه‌پرسی مشورتی در سطح شهر ارائه شد.
5. اجرا: شهرداری الزام می‌کند که هر سیستم هوش مصنوعی تأمین‌کننده باید بر اساس این قانون اساسی عمومی آموزش و ارزیابی شود.

این مورد، پتانسیل ایجاد قوانین آگاه‌تر از بافت و قابل‌اعتمادتر را برجسته می‌کند، در عین حال هزینه، زمان و پیچیدگی قابل توجه این فرآیند را نیز آشکار می‌سازد.

9. کاربردها و توسعه آینده

تأثیر چارچوب هوش مصنوعی قانون اساسی عمومی فراتر از مدل‌های زبانی بزرگ پیشرفته است:

• قانون اساسی خاص حوزه: تدوین عمومی قوانین اساسی برای هوش مصنوعی در حوزه‌هایی مانند بهداشت و درمان (تریاژ، پشتیبانی تشخیصی)، آموزش (یادگیری شخصی‌شده، نمره‌دهی) و رفاه اجتماعی (تخصیص مزایا).
• قانون‌اساسی پویا: توسعه مکانیزم‌هایی که امکان تکامل قانون اساسی را در طول زمان از طریق بازبینی دوره‌ای عمومی فراهم می‌کند، مشابه اصلاحیه‌های قانون اساسی، که مستلزم توانایی مدل‌های هوش مصنوعی برای یادگیری مستمر تحت مجموعه قوانین در حال تغییر است.
• داوری فراقضایی: پژوهش در مورد سیستم‌های هوش مصنوعی که قادر به مدیریت تعارض‌های بین قوانین اساسی عمومی مختلف هنگام عمل در محیط‌های جهانی یا فدرال هستند، با الهام از تحقیقات در بهینه‌سازی چندهدفه و استدلال هنجاری.
• توسعه ابزار: ایجاد پلتفرم‌های نرم‌افزاری برای تسهیل بحث‌های عمومی آگاهانه در مقیاس بزرگ درباره اصول هوش مصنوعی، با امکان استفاده از خود هوش مصنوعی برای خلاصه‌سازی مناظرات، روشن‌سازی مبادلات و تبدیل افکار عمومی به مواد پیش‌نویس.
• ادغام با امنیت فنی: تلفیق فرآیند تعیین ارزش‌های عمومی با تحقیقات امنیت فنی هوش مصنوعی در مورد استحکام، قابلیت تفسیر و نظارت. قانون اساسی عمومی «چیستی» و «چرایی» را تعریف می‌کند، در حالی که مهندسان به «چگونگی» می‌پردازند.

جهت‌گیری نهایی به سمتاکوسیستم حکمرانی مشارکتی هوش مصنوعیتوسعه‌ای است که در آن چرخه حیات سیستم‌های هوش مصنوعی - از ارزش‌های بنیادین آن تا حسابرسی استقرار - تحت تأثیر ورودی و کنترل ساختاریافته و فراگیر عمومی قرار می‌گیرد.

10. مراجع

1. Abiri, G. (2025). Public Constitutional AI. Georgia Law Review, 59(3), 601-648.
2. Anthropic. (2023). Constitutional AI: Harmlessness from AI Feedback. arXiv preprint arXiv:2212.08073.
3. Binns, R. (2018). Fairness in Machine Learning: Lessons from Political Philosophy. Proceedings of the 1st Conference on Fairness, Accountability and Transparency (FAT*), 149-159.
4. AI Now Institute. (2023). Algorithmic Accountability: A Primer. Retrieved from https://ainowinstitute.org/publication/algorithmic-accountability-primer
5. Hadfield, G. K., & Clark, R. M. (2023). The Problem of AI Governance. ددالوس، 152(1)، 242-256.
6. Goodman, B., & Flaxman, S. (2017). European Union Regulations on Algorithmic Decision-Making and a "Right to Explanation." مجله هوش مصنوعی، 38(3)، 50-57.
7. Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. مجموعه مقالات کنفرانس بین‌المللی IEEE در مورد بینایی کامپیوتر (ICCV)، 2223-2232.
8. Dryzek, J. S., & Niemeyer, S. (2019). Deliberative Democracy and Climate Governance. Nature Human Behaviour, 3(5), 411-413. (در مورد اثربخشی مجامع شهروندی).