عندما قمت بشحن Gramms AI إلى متجر التطبيقات، واجهت مباشرة سؤالًا سيواجهه في نهاية المطاف كل مطور مصمم للأطفال: ماذا يعني “مناسب للعمر” فعليًا في الممارسة العملية؟ وكيف يمكنك بناء الأنظمة التي تطبقها بشكل موثوق؟
Gramms هو تطبيق لقصص ما قبل النوم. فهو يولد حكايات شخصية تُروى بصوت الجد المستنسخ. يبدو بسيطا بما فيه الكفاية. لكن بنية السلامة التي كانت وراء ذلك لم تكن كذلك.
هذا هو حساب أحد الممارسين للقرارات التي تقف وراء Gramms، وقد تمت كتابته ليكون مفيدًا لأي شخص يقوم ببناء منتجات مدعومة بالذكاء الاصطناعي للأطفال الذين تتراوح أعمارهم بين 3 و10 سنوات. لا يعد أي من هذا بمثابة نصيحة قانونية، ولكن كل ذلك تم الحصول عليه بشق الأنفس.
1. الفئات العمرية: ليس كل الأطفال هم نفس الجمهور
إن أهم قرار تصميمي ستتخذه هو التخلي عن فكرة وجود مستوى محتوى واحد “آمن للأطفال”. القصة التي تناسب طفلًا يبلغ من العمر 9 سنوات (صراع خفيف، توتر سردي، تفكير أخلاقي متعدد الخطوات) قد تخيف طفلًا يبلغ من العمر 3 سنوات حقًا. وسيقوم طفل يبلغ من العمر 9 سنوات بتسجيل المغادرة في غضون 30 ثانية تقريبًا إذا بدا أن المحتوى تم إعداده لطفل يبلغ من العمر 4 سنوات.
يستخدم جرامز ثلاث نطاقات عمرية تنموية، لكل منها طبقة هندسية سريعة خاصة بها:
- الأعمار من 3 إلى 5 سنوات: مفردات بسيطة، وقصص من 200 إلى 400 كلمة، وسرد لبطل واحد، وبنية متكررة، ولا يوجد صراع يتطلب الحل. موضوعات مثل الصداقة والحيوانات والمساعدين السحريين. يستهدف التعقيد اللغوي مجموعة Lexile لرياض الأطفال.
- الأعمار من 6 إلى 8 سنوات: مفردات أكثر ثراءً، وتحديًا خفيفًا وحلًا، وديناميكيات مكونة من حرفين إلى ثلاثة أحرف، وتشويقًا خفيفًا يتم حله بسعادة. تتكون القصص من 400 إلى 600 كلمة. يقدم أخلاق السبب والنتيجة البسيطة.
- الأعمار من 9 إلى 10 سنوات: هيكل يشبه الكتاب من فصل واحد، ومؤامرات متعددة الخطوات، وروح الدعابة التي تتطلب الاستدلال، وقوة بطل الرواية والنتيجة. يمكن أن تصل القصص إلى 600-800 كلمة. يبدأ في تقديم مواقف غامضة بدقة دقيقة.
يتم تشفير هذه النطاقات مباشرة في موجه النظام المرسل إلى نموذج اللغة. عمر الطفل ليس مجرد بيانات وصفية. إنه قيد صعب يشكل كل عنصر من عناصر الجيل: اختيار الكلمات، وبنية الجملة، والنطاق الموضوعي، والرهانات السردية.
2. بنية موافقة الوالدين للامتثال لـ COPPA
يتطلب COPPA (قانون حماية خصوصية الأطفال عبر الإنترنت) موافقة الوالدين التي يمكن التحقق منها قبل جمع المعلومات الشخصية من الأطفال دون سن 13 عامًا. في تطبيق الذكاء الاصطناعي، يتم تفسير “المعلومات الشخصية” على نطاق واسع. اسم الطفل وعمره واهتماماته كلها مؤهلة.
وتعزز Apple ذلك من خلال إرشادات مراجعة متجر التطبيقات الخاصة بها (القسم 5.1.4)، والتي تتطلب الكشف الصريح عن خدمات الذكاء الاصطناعي التابعة لجهات خارجية والتي تعالج بيانات المستخدم. يبرز غرامز هذا عند نقطة موافقة الوالدين. قبل حفظ أي ملف تعريف، يرى ولي الأمر شاشة تسمي OpenAI وCartesia كموردي الذكاء الاصطناعي لدينا، مع توضيح البيانات التي يتلقاها كل منهما، ويتطلب الإقرار النشط. هذا ليس مربع اختيار شروط الخدمة. إنها بوابة عمل معيقة.
ملاحظتان عمليتان للمطورين الذين يبنون شيئًا مشابهًا:
أولاً، موافقة التصميم كتدفق للوالدين أولاً. يجب أن يكون إنشاء الملف الشخصي للطفل محاطًا بحساب يتحكم فيه شخص بالغ. ليست عملية تأهيل سلسة يمكن لطفل يبلغ من العمر سبع سنوات إكمالها بمفرده.
ثانيًا، الطوابع الزمنية لموافقة المتجر وقوائم البائعين من جانب الخادم. إذا تغير مورد الذكاء الاصطناعي الخاص بك (لقد قمنا بترحيل موفر تحويل النص إلى كلام الخاص بنا في منتصف التطوير)، فأنت بحاجة إلى مسار تدقيق وآلية لإعادة إفصاحات الموافقة للمستخدمين الحاليين.
3. الإشراف الآلي على المحتوى: الدفاع المتعمق
الهندسة السريعة تقلل من المخاطر، ولكنها لا تقضي عليها. نماذج اللغة هي أنظمة احتمالية. لا يزال بإمكان الموجه الذي تم إنشاؤه بعناية إنتاج مخرجات تتسلل عبرها. بالنسبة لمنتج الأطفال، فإن عبارة “آمن في الغالب” ليست معيارًا مقبولاً للجودة.
يطبق Gramms نظامًا ثنائي التمرير. التمريرة الأولى هي المستوى الفوري: يحظر النظام الموجه لكل فئة عمرية صراحةً العنف، والخصوم المثيرين للخوف، والمحتوى الرومانسي، والمراجع الجغرافية أو السياسية في العالم الحقيقي. الممر الثاني هو الاعتدال بعد الجيل. قبل تسليم القصة إلى الوالد أو الطفل، يتم تقييم النص الكامل بواسطة واجهة برمجة التطبيقات للإشراف على المحتوى وفقًا لسياسة محتوى الأطفال.
عندما تفشل القصة في الإشراف، يرى المستخدم رسالة بسيطة بعنوان “إنشاء قصة جديدة”. لا توجد حالة خطأ، لا يوجد تفسير. التجديد صامت. يجب ألا يواجه أحد الوالدين مطلقًا لحظة يعرضهم فيها التطبيق لمحتوى يتطلب التصفية.
أحد الأنماط التي تستحق الذكر: تعديل نص السرد بشكل منفصل عن نص القصة أمر مهم. يمكن لنص السرد (الذي يضيف إشارات درامية واتجاهات عاطفية لتركيب الصوت) أن يقدم عناصر نغمية غير موجودة في القصة الأولية. إذا كان المسار الخاص بك يفصل بين عملية الإنشاء وتنسيق السرد كما هو الحال لدينا، فقم بتطبيق الإشراف على كلا الناتجين بشكل مستقل.
4. مراجعة متجر تطبيقات Apple: دروس لتطبيقات بيانات الطفل المستندة إلى الذكاء الاصطناعي
تعد عملية مراجعة Apple للتطبيقات في فئة الأطفال أكثر صرامة بشكل ملحوظ من التطبيقات العامة، وتدعو ميزات الذكاء الاصطناعي إلى المزيد من التدقيق.
قم بتسمية كل بائع للذكاء الاصطناعي بشكل صريح. سوف تسأل أبل. يجب أن تشير سياسة الخصوصية الخاصة بك ووصف متجر التطبيقات الخاص بك والإفصاحات داخل التطبيق إلى الشركات المحددة التي تعالج واجهات برمجة التطبيقات الخاصة بها بيانات المستخدم. ليس فقط فئة التكنولوجيا. “نحن نستخدم الذكاء الاصطناعي” غير كافية. “نحن نستخدم GPT-4o-mini من OpenAI لتوليد القصة وCartesia Sonic للتوليف الصوتي” هو ما يحتاج المراجعون إلى رؤيته.
إبقاء بيانات الطفل خارج التدريب. تأكد (كتابيًا إلى المراجعين إذا طلب منك ذلك) أن عقود مزود الذكاء الاصطناعي لديك تتضمن اتفاقيات معالجة البيانات التي تحظر استخدام البيانات المرتبطة بالأطفال للتدريب النموذجي. يقدم كلا المزودين الرئيسيين هذا. قد تحتاج إلى تحديد طبقة API المناسبة.
افصل ملفات تعريف الأطفال عن حسابات البالغين في طبقة البيانات. يمتلك حساب الوالدين ملفات تعريف الطفل. لا ينبغي أبدًا أن تكون بيانات الطفل قابلة للمعالجة بشكل مستقل. يجب أن يكون الوصول إليه متاحًا فقط في سياق جلسة أصل تمت مصادقتها. تعد هذه البنية من أفضل ممارسات COPPA واستعلامًا مشتركًا لمراجعة التطبيق.
اختبار مع أطفال حقيقيين قبل التقديم. ليس لأن مراجعة التطبيقات تتطلب ذلك، ولكن لأن معايرة مدى ملاءمة العمر تجريبيًا أسهل من معايرتها نظريًا. إن رد فعل طفل يبلغ من العمر 4 سنوات على قصة اعتقدت أنها لطيفة هو إشارة أفضل من أي نموذج تدقيق للمحتوى.
الصورة الأكبر
إن بناء منتجات الذكاء الاصطناعي للأطفال ليس أصعب من صنعها للبالغين. إنه أمر صعب بشكل مختلف. القيود التقنية يمكن التحكم فيها. التعاطف التصميمي المطلوب كبير. يمثل كل قرار يتعلق بالفئة العمرية، وكل تدفق موافقة، وكل عتبة معتدلة حكمًا حول ما هو مناسب لطفل معين في مرحلة نمو معينة.
ومع ذلك، إليك الأخبار الجيدة: العائلات جاهزة لمنتجات الذكاء الاصطناعي للأطفال جيدة التصميم. القلق لا يتعلق بالذكاء الاصطناعي نفسه. يتعلق الأمر بالإهمال. إن إثبات أنك قد فكرت بعناية في بنية السلامة، وقمت بتسمية البائعين لديك، وبناء اعتدال حقيقي، وموافقة مصممة للآباء بدلاً من الاشتراكات غير الاحتكاكية، هو الطريقة التي تكسب بها هذه الثقة.
