آیا الگوریتم‌ها ناقض حقوق کودکان هستند؟

در عصر دیجیتال، کودکی دیگر فقط در خانه، مدرسه و فضای عمومی شکل نمی‌گیرد؛ بخش مهمی از آن در محیط‌هایی سپری می‌شود که کودک نمی‌بیند و اغلب نمی‌فهمد چگونه کار می‌کنند. پشت هر ویدئویی که به او پیشنهاد می‌شود، هر تبلیغی که می‌بیند، هر محتوایی که در صفحه‌اش ظاهر می‌شود و حتی بخشی از تعاملاتی که در پلتفرم‌های دیجیتال تجربه می‌کند، مجموعه‌ای از الگوریتم‌ها در حال انتخاب، رتبه‌بندی، پیش‌بینی و شخصی‌سازی است. از همین‌جا یک پرسش بنیادین در حقوق کودک شکل می‌گیرد؛ 

پاسخ کوتاه این است: بله؛ اما نه به این معنا که «الگوریتم» به‌عنوان یک موجود مستقل مسئول نقض حقوق است. مسئله حقوقی دقیق‌تر آن است که طراحی، داده، هدف‌گذاری و خروجی یک سامانه الگوریتمی می‌تواند به نقض یا تضعیف حقوق کودک منجر شود و در چنین شرایطی باید برای انسان‌ها و نهادهای پشت آن سامانه، مسئولیت حقوقی و نظارتی تعریف شود.

کودک در این میان، آسیب‌پذیرترین کاربر محیط دیجیتال است. او نه از سازوکار جمع‌آوری داده اطلاع کاملی دارد، نه معمولاً می‌تواند رضایت آگاهانه و معناداری نسبت به پردازش داده‌های خود ارائه کند و نه قدرت تشخیص پیامدهای بلندمدت ردپای دیجیتال خود را دارد. با این حال، داده‌های مربوط به رفتار، علایق، جست‌وجوها، موقعیت، روابط و الگوی مصرف محتوای او می‌تواند برای ساختن تصویری دقیق از شخصیت و ترجیحاتش مورد استفاده قرار گیرد.

اینجاست که حق بر حریم خصوصی کودک با یک چالش تازه مواجه می‌شود. مسئله دیگر فقط انتشار عکس یا اطلاعات شخصی کودک نیست؛ خودِ امکان پیش‌بینی و تحلیل کودک بر اساس داده‌های رفتاری او نیز می‌تواند بخشی از مسئله حریم خصوصی باشد. کودک ممکن است نداند چرا یک محتوای خاص دائماً به او پیشنهاد می‌شود، چرا یک تبلیغ مشخص می‌بیند یا چرا پلتفرم به تدریج جهان اطلاعاتی او را محدود به مجموعه‌ای از موضوعات خاص کرده است.

از سوی دیگر، الگوریتم‌های توصیه محتوا می‌توانند با منطق تجاری پلتفرم‌ها در تعارض با منافع عالی کودک قرار گیرند. اگر هدف سیستم افزایش مدت حضور کاربر و میزان تعامل او باشد، طبیعی است که الگوریتم به دنبال محتوایی برود که بیشترین احتمال جلب توجه را دارد؛ اما آنچه بیشترین «تعامل» را ایجاد می‌کند، الزاماً چیزی نیست که بیشترین فایده را برای کودک داشته باشد. محتوای تحریک‌کننده، ترسناک، خشونت‌آمیز یا هیجانی ممکن است کاربر را بیشتر درگیر کند، اما همین ویژگی می‌تواند برای سلامت روان و رشد کودک زیان‌بار باشد.

این مسئله، ما را با یک تعارض بنیادین مواجه می‌کند: آیا منافع تجاری یک پلتفرم می‌تواند بر منافع عالی کودک مقدم شود؟

از منظر حقوق کودک، پاسخ باید روشن باشد. «منافع عالی کودک» نمی‌تواند صرفاً یک شعار اخلاقی باشد؛ باید معیاری واقعی برای طراحی، ارزیابی و تنظیم فناوری‌های مورد استفاده کودکان باشد. ماده ۳ کنوانسیون حقوق کودک، منافع عالی کودک را در اقدامات مربوط به کودکان به‌عنوان یک ملاحظه اساسی مطرح می‌کند. ماده ۱۶ نیز از کودک در برابر مداخلات خودسرانه یا غیرقانونی در حریم خصوصی، خانواده و ارتباطات او حمایت می‌کند و ماده ۱۲ حق کودک برای ابراز نظر و شنیده‌شدن در امور مرتبط با خود را به رسمیت می‌شناسد.

بنابراین، وقتی یک سامانه الگوریتمی درباره کودک تصمیم می‌گیرد، مسئله فقط فناوری نیست؛ موضوع، حقوق است.

یکی دیگر از خطرهای جدی، تبعیض الگوریتمی است. الگوریتم‌ها بر اساس داده‌هایی آموزش می‌بینند که ممکن است خودشان حامل سوگیری‌های اجتماعی باشند. اگر داده‌ها ناقص یا جهت‌دار باشند، خروجی سیستم نیز می‌تواند علیه گروهی از کودکان ناعادلانه عمل کند. در چنین شرایطی، فناوری به جای کاهش تبعیض، آن را در مقیاسی وسیع‌تر و با ظاهری ظاهراً «علمی و بی‌طرف» بازتولید می‌کند.

خطر بزرگ‌تر شاید همین تصور اشتباه باشد که تصمیم ماشین الزاماً بی‌طرف است. الگوریتم‌ها ارزش‌ها، فرضیات و اولویت‌های سازندگان خود را درون خود حمل می‌کنند. اینکه چه داده‌ای جمع‌آوری شود، چه چیزی حذف شود، چه چیزی مهم تلقی شود و موفقیت سیستم چگونه اندازه‌گیری شود، همگی انتخاب‌های انسانی‌اند.

از این منظر، نباید اجازه داد مسئولیت حقوقی پشت واژه‌هایی مانند «هوش مصنوعی»، «یادگیری ماشین» یا «تصمیم‌گیری خودکار» پنهان شود. ماشین نمی‌تواند مسئولیت اخلاقی و حقوقی را به جای انسان بر عهده بگیرد. اگر الگوریتمی سلامت، حریم خصوصی، آموزش، برابری یا امنیت کودک را به خطر می‌اندازد، باید پرسید چه کسی آن را طراحی کرده، چه نهادی از آن استفاده می‌کند، چه داده‌ای در اختیارش قرار داده شده و چه سازوکار نظارتی بر عملکرد آن وجود دارد.

در چنین شرایطی، حمایت از حقوق کودک نیازمند عبور از رویکرد سنتی «حفاظت پس از وقوع آسیب» به سمت پیشگیری و ارزیابی پیشینی است. پلتفرم‌هایی که با کودکان سروکار دارند باید پیش از عرضه یا تغییر اساسی سامانه‌های الگوریتمی، آثار احتمالی آنها بر حقوق کودک را ارزیابی کنند؛ داده‌های کودکان را با حداقل‌گرایی و هدف مشخص پردازش کنند؛ امکان نظارت انسانی و اعتراض مؤثر را فراهم سازند و طراحی محصولات را با اصل ایمنی و حریم خصوصی از ابتدا همراه کنند.

در نهایت، مسئله اصلی این نیست که آیا باید کودکان را از فناوری دور کرد یا نه. چنین رویکردی نه ممکن است و نه مطلوب. فناوری می‌تواند آموزش، خلاقیت، ارتباط و دسترسی کودکان به اطلاعات را به شکل چشمگیری افزایش دهد. مسئله این است که چه نوع فناوری و با چه قواعدی در اختیار کودک قرار می‌گیرد.

در عصر الگوریتم، حق کودک فقط حق دسترسی به اینترنت نیست؛ حق داشتن یک اینترنت امن، عادلانه، شفاف و متناسب با نیازهای رشدی او نیز هست. اگر الگوریتمی بتواند آنچه کودک می‌بیند، می‌خواند، می‌خرد، باور می‌کند یا حتی درباره خودش تصور می‌کند را تحت تأثیر قرار دهد، دیگر نمی‌توان آن را صرفاً یک ابزار فنی دانست.

پاسخ حقوق کودک باید روشن باشد: فناوری باید در خدمت رشد و کرامت کودک قرار گیرد، نه کودک در خدمت فناوری. الگوریتم هرقدر هوشمند باشد، نمی‌تواند جایگزین «منافع عالی کودک» شود؛ و هیچ تصمیم ماشینی نباید به محلی برای گم‌شدن مسئولیت انسانی تبدیل شود.

* حقوقدان، پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال