بر اساس گزارشات بخش تکنولوژی سایت دکتر حسین ناصری و به نقل از یورو نیوز در ارتباط با گوگل؛

این سرویس مبتنی بر هوش مصنوعی که به نام Cloud Vision API خوانده می‌شود، سرویسی است که توسط گوگل در اختیار توسعه‌دهندگان برنامه‌های کامپیوتری گذاشته شده و به آنان اجازه می‌دهد محتوای تصاویر را شناسایی، تحلیل و نشانه‌گذاری کنند.

این ابزار می‌تواند چهره‌ها، منظره‌ها و حتی محتواهای مخصوص تعیین‌شده از سوی برنامه‌نویس را تشخیص ده

در ایمیلی که شرکت گوگل روز پنجشنبه به توسعه‌دهندگان نرم‌افزاری ارسال کرده است آمده از این پس «برچسب‌های جنسیتی» همچون مرد و زن بر روی تصاویر زده نخواهند شد و به جای آن‌ها برچسب‌های فراجنسیتی همچون «فرد» جایگزین می‌شود.

گوگل در توضیح اقدام خود گفته به این نتیجه رسیده است که تعیین جنسیت افراد تنها به کمک ظاهر آن‌ها در یک عکس امکان‌پذیر نیست. این شرکت همچنین اضافه کرده است که بنابر منشور اخلاقی هوش مصنوعی خود، برچسب‌گذاری جنسیتی روی عکس‌ها می‌تواند باعث تشدید سوگیری غیرمنصفانه شود.

سوگیری در تحلیل اطلاعات حاصل از عملکرد هوش مصنوعی یکی از بزرگترین چالش‌های دنیای فناوری محسوب می‌شود و سال‌هاست محققان در تلاشند راهکارهایی برای کاهش موثر آن بیابند.