بسیاری از شرکت‌ها برای کسب سود بیشتر کاربران خود را بدون اطلاع آنها مورد آزمایش رفتاری قرار می‌دهند.
به گزارش گرداب، پژوهشگران دانشگاهی هشدار می‌دهند که آزمایش‌های دیجیتالیِ پنهان می‌توانند بر شاغلان، کاربران و جامعه تأثیرات ناشناخته‌ای بگذارند. بسیاری از شرکت‌های فناوری با هدف درک و پیش‌بینی دقیق‌ترِ رفتارِ کاربران خود و کسب بیشتر سود اقدام به طراحی و اجرای آزمایش‌هایی در پلتفرم‌های خود کرده و کاربران را ناخواسته و بدون کسب رضایتشان وادار به ایفای نقش موش آزمایشگاهی می‌کنند.
حاتم رحمان (Hatim Rahman) استاد مدیریت دانشگاه نورث‌وسترن در ایلینوی آمریکا در یادداشتی که در وب‌سایت فایننشال‌تایمز منتشر کرد به بررسی خطرات ناشی از اجرای چنین آزمایش‌هایی برای کاربران پرداخت. به گفته او انجام این آزمایش‌ها که مغایر با اخلاق پژوهشی است در غرب رواج فراوانی دارد و از طرفی دولت‌ها سازوکار‌های لازم برای نظارت را فراهم نکرده‌اند.
«پایگاه رسانه‌ای گرداب جهت آگاهی و افزایش دانش مخاطبان خود به ترجمه و انتشار مطالبی در حوزه‌های مختلف فناوری اقدام می‌کند. انتشار مطالب به معنای تایید محتوای آن نیست».
شما احتمالاً همین الان در حال آزمایش شدن هستید. مجموعه‌های مختلف آزمایش‌های بی‌شماری را به صورت برخط انجام می‌دهند که می‌خواهند با کمک آنها بفهمند چگونه می‌توانند چشمان ما را روی صفحه‌نمایش نگه دارند، ما را متقاعد کنند که یک محصول جدید را خریداری کنیم یا در ما واکنشی نسبت به آخرین اخبار ایجاد کنند. بااین‌حال آنها اغلب این کار را بدون اطلاع ما انجام می‌دهند؛ کاری که با پیامد‌های ناخواسته و بعضاً منفی همراه است.
من و همکارانم در مطالعه‌ای که اخیراً انجام دادیم بررسی کردیم که چگونه یک پلتفرم کار دیجیتال می‌تواند شغل بعدی، حقوق و میزان دیده شدن شما را برای کارفرمایانِ احتمالی تعیین کند. چنین آزمایش‌هایی اغلب بدون رضایت یا آگاهی فرد شاغل انجام می‌شوند و از طرفی گسترده و رایج هستند.
در سال ۲۰۲۲ مطالعه دیگری که نتایج آن در نیویورک‌تایمز بازتاب داده شد، نشان داد که شبکه حرفه‌ای لینکدین آزمایشی را بر روی میلیون‌ها کاربر بدون اطلاع آنها انجام داده است. نویسندگان این پژوهش ادعا کردند که این آزمایش‌ها تأثیر مستقیمی بر شغل کاربران داشت و موجب شد بسیاری از آنها فرصت‌های کمتری را برای ارتباط با کارفرمایان داشته باشند.
اوبر [سرویس تاکسی اینترنتی]نیز آزمایش‌هایی درباره پرداخت کرایه انجام داده که به نظر بسیاری از رانندگان منجر به کاهش درآمدهایشان شده است. تحقیقات منتشر شده در نشریه Nature نشان داد که آزمایش‌های پلتفرم‌های رسانه‌های اجتماعی به قطبی شدن محتوای در این بستر‌ها و به وجود آمدن «اتاق‌های پژواک» (Echo Chamber) کمک کرده. گوگل به طور مداوم آزمایش‌هایی را در نتایج جستجو اجرا می‌کند که طبق یافته پژوهشگران آلمانی باعث شده وب‌سایت‌هایی که محتوای هرزنامه دارند را در بالای نتایج جستجوی گوگل قرار بگیرند.
مشکل تنها خود آزمایش نیست؛ این آزمایش‌ها می‌تواند به شرکت‌ها کمک تصمیماتی داده‌پایه (Data-driven) بگیرند. مشکل این است که برای اکثر شرکت‌ها هیچ سازوکار داخلی یا خارجی وجود ندارد که تضمین کند این آزمایش‌ها به شکلی واضح برای کاربرانشان -و همچنین خودشان- مفید است.
کشور‌ها نیز فاقد چارچوب‌های نظارتی قوی برای کنترل نحوه استفاده مجموعه‌های مختلف از آزمایش‌های برخط و اثرات سرریزی (Spillover Effects) هستند که این آزمایش‌ها می‌توانند داشته باشند. آزمایش‌های بی‌رویه و کنترل نشده در نبود ساختار‌های حفاظتی می‌تواند اثرات فاجعه باری برای همه داشته باشد.
در جریان مطالعه‌ی ما زمانی که شاغلان متوجه شدند که ناخواسته نقش موش آزمایشگاهی را بازی کرده‌اند با ابراز تردید، بدبینی و خشم به اینکه شغل و درآمدشان بدون اطلاع و کسب رضایتشان به سوژه آزمایش تبدیل شده اعتراض کردند. عواقب این اقدام بیشتر شد و بر درآمد و سلامتی آنها تأثیر گذاشت.
برخی از ارائه ایده‌هایشان برای بهبود پلتفرم مورد مطالعه خودداری کردند. گروهی دیگر باور نداشتند که تغییری واقعی رخ دهد. در عوض آنها به دنبال محدود کردن حضور و تعاملات آنلاین خود بودند. تأثیرات درازمدتِ آزمایش‌های بی‌رویه‌ی آنلاین احتمالاً گسترده‌تر و آشکارتر خواهد شد.
قانون‌گذاران آمریکایی آمازون را متهم کرده‌اند که آزمایش‌هایی را با هدف افزایش قیمت محصولات، سرکوب رقابت و افزایش هزینه‌های کاربران اجرا می‌کند. کلاهبرداران از آزمایش‌های برخط و دیجیتال برای شکار افراد مسن و آسیب‌پذیر استفاده می‌کنند.
اکنون ابزار‌های هوش مصنوعی مولد هزینه تولید محتوا برای اجرای آزمایش‌های دیجیتال را کاهش داده‌اند. حتی برخی از مجموعه‌ها فناوری‌هایی را به کار می‌گیرند که آنها را قادر می‌کند امواج مغزی ما را آزمایش کنند.
یکپارچه‌تر شدن آزمایش‌ها نشانگر پدیده‌ای است که ما آن را «دست آزمایش‌گر» می‌نامیم. این پدیده می‌تواند تأثیرات زیادی بر شاغلین، کاربران، مشتریان و جامعه داشته باشد. این تأثیرگذاری از طریق روش‌هایی صورت می‌گیرد که به درستی درک نشده‌اند، اما می‌توانند عواقب شدیدی داشته باشند. حتی اگر سوءنیتی وجود نداشته باشد، بدون وجود سازوکار‌های نظارتی متعدد، پیامد‌های رویه‌ی فعلی می‌تواند برای مردم و جامعه فاجعه‌بار باشد.
اما ما مجبور نیستیم آینده‌ای همچون داستان‌های سریال آینه سیاه (Black Mirror) را بپذیریم که در آن هر حرکت، تعامل و فکر ما در معرض آزمایش‌های استثمارگرانه باشد. معقول این است که مجموعه‌ها و سیاست‌گذاران از اشتباهات ۵۰ سال پیشِ دانشمندان درس بگیرند.
آزمایش معروف زندان استنفورد در سال ۱۹۷۱ که در آن فیلیپ زیمباردو، استاد روانشناسی، شرکت‌کنندگان را به طور تصادفی در نقش زندانیان یا زندانبان‌ها قرار داد به سرعت منجر به این شد که زندانبان‌ها زندانیان را مورد آزار روانی شدید قرار می‌دادند.
او با وجود مشاهده این پیامد‌ها آزمایش را متوقف نکرد. یک دانشجوی دکترا به نام Christina Maslach که برای کمک به انجام مصاحبه‌ها آمده بود، مخالفت شدید خود را ابراز کرد و به توقف این آزمایش کمک کرد.
فقدان نظارت بر طراحی و اجرای این آزمایش باعث شد هیئت‌هایی با نام هیئت بررسی بالینی (IRB) در دانشگاه‌ها گسترش پیدا کنند. هدف آنها این است که اطمینان حاصل کنند هر آزمایشی که انسان‌ها را در بر می‌گیرد از نظر اخلاقی و قانونی صحیح باشد، از جمله کسب رضایت آگاهانه از شرکت‌کنندگان و اجازه دادن به آنها برای انصراف در زمان دلخواه.
برای اینکه چنین هیئت‌هایی بتوانند در بیرون از دانشگاه‌ها نیز عمل کنند، رهبران سازمان‌ها و مجموعه‌ها باید اطمینان حاصل کنند که کارشناسان مستقل با تخصص‌های متنوع برای اِعمال بالاترین استاندارد‌های اخلاقی در آن حاضر هستند. بااین‌حال این هم کافی نیست.
آزمایش معروف فیسبوک در سال ۲۰۱۲ که در آن نحوه واکنش کاربران به تغییر در نمایش پست‌های مثبت یا منفی برایشان مورد ارزیابی قرار می‌گرفت توسط هیئت نظارتی دانشگاه کرنل تأیید شده بود. فیسبوک ادعا کرد که موافقت کاربرانش با شرایط استفاده از این پلتفرم به معنای رضایت آگاهانه آنها از این نوع آزمایش‌ها است.
همچنین ما برای اطمینان از پایبندی این آزمایش‌ها به اخلاق قوی به سازوکار حسابرسی جمع‌سپاری شده نیاز داریم. خود کاربران اغلب نزدیک‌ترین و آگاه‌ترین افراد برای باخبر کردن دیگران هستند.
اگر سازمان‌ها و مجموعه‌ها تمایلی به پاسخگویی به خواسته‌های کاربران ندارند، کاربرانی که در معرض آزمایش‌ها قرار می‌گیرند می‌توانند پلتفرم‌هایی ایجاد کنند که یکدیگر را مطلع کنند. برای مثال شاغلین پلتفرم برون‌سپاری Amazon Mechanical Turk معروف به MTurk زمانی که این بستر از ارائه امکان رتبه‌بندی به آنها امتناع کرد، اقدام به ایجاد بستر جدیدی به نام Turkopticon که در آن می‌توانستند به کارفرمایان خود نمره بدهند.
لازم نیست آزمایش دیگری مانند آزمایش زیمباردو (Zimbardo) اتفاق بیفتد که دولت‌ها و مجموعه‌ها ترغیب شوند سازوکار‌هایی برای آزمایش‌های اخلاقی ایجاد کنند. آنها نباید منتظر اقدام نهاد‌های ناظر بمانند. Maslach تأخیر نکرد و ما هم نباید تأخیر کنیم.
