أصدرت شركة جوجل إرشادات جديدة للمطورين الذين يقومون بتطوير تطبيقات ذكاء اصطناعي وتوزيعها عبر متجر Google Play لتطبيقات أندرويد، بهدف التصدي للمحتوى غير المناسب والمحظور.
وفقًا للشركة، يجب على التطبيقات التي تستخدم مزايا الذكاء الاصطناعي أن تمنع إنشاء المحتوى المقيّد، والذي يشمل المحتوى الجنسي والعنف، وتوفير طرق للمستخدمين للإبلاغ عن المحتوى المسيء.
جوجل تطالب المطوريين بعمل اختبارات صارمة لأدوات الذكاء الاصطناعي
وأوضحت أن المطورين يجب أن يقوموا بعمل اختبارات صارمة لأدوات الذكاء الاصطناعي المستخدمة في تطبيقاتهم، لضمان احترام سلامة المستخدم وخصوصيته. كما أن الشركة تتخذ إجراءات صارمة ضد التطبيقات التي تروّج لحالات استخدام غير لائقة، مثل تطبيقات تجسد الأشخاص عاريين دون موافقتهم.
تأتي هذه الإرشادات في ظل تزايد ظاهرة ترويج التطبيقات ذات الذكاء الاصطناعي عبر منصات التواصل الاجتماعي، وقد وجد تقرير أن منصة إنستاجرام كانت تستضيف إعلانات لتطبيقات تزعم استخدام الذكاء الاصطناعي لإنشاء صور عارية مزيفة. وقد اتخذت الشركة إجراءات لمنع وصول هذه التطبيقات إلى متجر التطبيقات.
وأبلغت المدارس في جميع أنحاء الولايات المتحدة عن مشكلات مع الطلاب الذين يتبادلون صورًا عارية مزيفة بتقنية الذكاء الاصطناعي لطلاب آخرين بغرض التنمر والتحرش، إلى جانب أنواع أخرى من محتوى الذكاء الاصطناعي غير المناسب.
بالإضافة إلى ذلك، يتحمل المطورون مسؤولية حماية تطبيقاتهم من المطالبات التي قد تتلاعب بمزايا الذكاء الاصطناعي من أجل توليد محتوى ضار ومسيء.
وتشجع جوجل المطورين على استخدام ميزة الاختبار المغلق لتجربة الإصدارات المبكرة من تطبيقاتهم مع المستخدمين للحصول على تعليقات، وتقترح عليهم توثيق هذه الاختبارات قبل الإطلاق، لتسهيل المراجعة المستقبلية من جانب الشركة.
