أعلنت شركة أنثروبيك الأميركية للذكاء الاصطناعي عن ما وصفته بـ"دستور" جديد يحكم روبوت الدردشة كلود ويضبط قيمه وسلوكه. وقالت الشركة في بيان اليوم الخميس إن هذا الدستور "يُعدّ جزءاً أساسياً من عملية تدريب نموذجنا، ويؤثّر محتواه بشكل مباشر على سلوك كلود". وينص دستور "كلود" على عدم تقويض الآليات البشرية المناسبة للإشراف على الذكاء الاصطناعي خلال المرحلة الحالية من التطوير؛ وعلى التحلي بالصدق، والعمل وفقاً للقيم الحميدة، وتجنّب الأفعال غير اللائقة أو الخطيرة أو الضارة. ينص الدستور كذلك على العمل وفقاً لإرشادات "أنثروبيك"، بالإضافة إلى تحقيق الفائدة للمشغلين والمستخدمين. تقول الشركة: "هدفنا الأساسي هو أن يكون كلود وكيلاً صالحاً وحكيماً وفاضلاً، يُظهر مهارةً وحُكماً ودقةً وحساسيةً في التعامل مع عملية صنع القرار في العالم الحقيقي، بما في ذلك في سياق عدم اليقين الأخلاقي والاختلاف". وبحسبها "يجب ألا يُقوّض كلود قدرة البشر على الإشراف على قيمه وسلوكه وتصحيحهما خلال هذه الفترة الحرجة من تطوير الذكاء الاصطناعي". ويتضمن دستور "أنثروبيك" شرحاً مفصلاً للقيم التي ترغب الشركة أن يتحلى بها "كلود"، وأسبابها. كما يوضح ما يعنيه أن يكون "كلود" مفيداً، مع الحفاظ على سلامته وأخلاقياته، والتزامه بتوجيهات الشركة. ويزوّد هذا ​​الدستور "كلود" بمعلومات حول وضعه، ويقدّم نصائح حول كيفية التعامل مع المواقف الصعبة والمفاضلات، مثل الموازنة بين الصدق والتعاطف وحماية المعلومات الحسّاسة. ومع ذلك، تعترف "أنثروبيك" بأن "تدريب النماذج مهمة صعبة، وقد لا تلتزم مخرجات كلود دائماً بمُثُل الدستور". لكن بحسبها "نعتقد أن الطريقة التي كُتب بها الدستور الجديد، مع شرحٍ وافٍ لنياتنا والأسباب الكامنة وراءها، تعزّز احتمالية غرس قيم جيدة أثناء التدريب". وتقول الشركة: "نعتبر الدستور المرجع النهائي لكيفية تصرف كلود وسلوكه، أي أن أي تدريب أو توجيه يُقدّم له يجب أن يتوافق مع نص الدستور وروحه. هذا يجعل نشر الدستور ذا أهمية بالغة من منظور الشفافية: فهو يُمكّن الناس من فهم سلوكيات كلود المقصودة وغير المقصودة، لاتخاذ خيارات مدروسة، وتقديم ملاحظات مفيدة. نعتقد أن هذا النوع من الشفافية سيزداد أهمية مع ازدياد تأثير الذكاء الاصطناعي في المجتمع".