تحقیقات کوزینسکی موجب دلهره آدم هاست؛ او ادعا می کند تهدید حریم خصوصی در تحقیقاتش، می تواند هر کسی را ناراحت کند. او در جدیدترین مطالعه ی خود که در Scientific Reports منتشر شد، یک میلیون عکس پروفایل شبکه های اجتماعی افراد را وارد الگوریتم تشخیص چهره کرد که تا ۷۲درصد گرایش سیاسی افراد را به درستی پیش بینی نمود.
کوزینسکی، این موضوع را توسعه محاسبات نمی داند بلکه ادعا می کند که این نتایج زنگ بیدارباش است. او امید دارد، یافته های تحقیقش در آگاهی بخشی به مردم در مورد این فن آوری نوظهور موثر باشد.
آخرین پژوهش کوزینسکی بر اساس نتیجه منتشر شده در سال ۲۰۱۸ نشان داد که یکی از عمومی ترین الگوریتم های تشخیص چهره، بدون اینکه توسعه دهندگان آن بفهمند، قادر به تشخیص تمایلات جنسی افراد، آن هم با دقتی شگفت آور است. تیم او از نمایش نتایج مشابه در گروه های مختلف حین آزمایش، شگفت زده شدند.
این مطالعات آتشی بر پا کرده است. منتقدان در مورد کوزینسکی اظهار کردند که او دارای فرنولوژی[۱] هوش مصنوعی شده است؛ خودش اما آن ها را متهم به سنگ پرانی به سمت کسی می کند که مشغول آگاه کردن عموم از تهدیدات فن آوری است؛ فن آوری که هنوز تهدیدات آن جدی نیست.
کوزینسکی علی رغم تضاد موجود در سود و زیان فن آوری، به هشدارهای خود در مورد آن ادامه می دهد؛ او تأکید می کند که قصد توسعه هیچ ابزار هوش مصنوعی را نداشته و صرفاً یک روانشناس است که می خواهد ظرفیت خوب و بد فن آوری را درک کند. او می گوید: حیات ما به شدت تحت تأثیر الگوریتم هاست. شرکت های خصوصی و نهادهای دولتی در حال گردآوری داده های شهروندان از هر منشأی هستند که شامل عکس های منتشر شده در فضای مجازی هم می شود.
او در گفتگو با Insights پیرامون مباحثی از کارش و پیامدهای یافته های آن صحبت کرد. در ادامه پاسخ او به پرسش ها را می خوانیم.
- چگونه به این مباحث علاقمند شدید؟
من از این زاویه به موضوع نگاه می کردم که چگونه می توان از ردپای دیجیتالی افراد برای تشخیص ویژگی های روان شناختی آن ها استفاده کرد؛ بعد متوجه مشکل حریم خصوصی شدم که مغفول مانده بود. مثلاً در مراحل آغازین بررسی ها، متوجه شدم لایک هایی فیس بوکی، بیشتر از آنچه تصور کنیم در مورد ما اطلاعات فراهم می کنند. با نگاه به عکس هایی نمایه نیز متوجه شدم اطلاعات مهمی از ویژگی های عمیق تر قابل گردآوری است؛ همانطور که می دانید این عکس ها حالات و احساسات ما را نشان می دهند. و اما الگوریتم ها می توانند افراد را بر اساس ویژگی هایی همانند شخصیت یا جهت گیری سیاسی طبقه بندی کند. آن زمان به این نتایج باور نداشتم.
اینکه بفهمید از روی عکس افراد بتوانید اطلاعاتی در مورد شخصیت افراد بفهمید برای من که روان شناسی خوانده ام همانند این می ماند که یک شبه علم و دانش شما کهنه شده است. الآن ذهنیت وجود تفاوت بین چهره و شخصیت برایم عجیب می رسد.
مطمئناً بر اساس ظاهر آدم ها فرضیاتی می سازیم. آزمایش ها نشان می دهد این قضاوت ها سریع و خودکار شکل می گیرد. کسری از ثانیه تصویری به کسی نشان دهید؛ او قضاوتی در مورد صاحب عکس خواهد داشت. جلوگیری از این فرآیند ذهنی ممکن نیست. اگر از قابل اعتماد بودن، آزادگی، هوش و .. بپرسید؛ پاسخ های قاطعی می شنوید.
ما نمی توانیم با پنهان کاری در مورد خطرات نهفته فن آوری از شهروندان محافظت کنیم. افراد با انگیزه های مالی، زودتر از ما به نقطه تصمیم می رسند.
با این حال قضاوت ها خیلی هم دقیق نیستند. من در کار خود از مشارکت کنندگان خواستم تا از روی عکس ها گرایش جنسی افراد را تعیین کنند؛ ۵۵ تا ۶۰ درصد پاسخ ها درست بود؛ {از طرفی دقت} حدس تصادفی ۵۰درصد است که دقت ضعیفی است. مطالعات نشان می دهد این موضوع برای سایر صفات هم صدق می کند. در واقع هنوز این واقعیت که آدم ها به طور منسجم، تا حدودی، دقت نشان می دهند، موید این است که چهره ها باید با ویژگی های شخصیتی مرتبط باشد.
- آیا الگوریتم به دقت بسیاری بالایی رسیده باشد؟
خوب، مطالعه ی من متمرکز بر چشم اندازهایی سیاسی بود؛ سازوکار من تا ۷۲ درصد درست عمل کرد. البته این الگوریتم روی رایانه من اجرا شد و دلیلی نیست که بهترین الگوریتم ممکن باشد.
اینجا تأکید دارم که الگوریتمی را در این خصوص آموزش نداده و هرگز نمی دهم. پیش از چارچوب های نظارتی کسی هم نباید به این موضوع فکر کند. من نشان دادم نرم افزار تشخیص چهره، با هدف رایگان می تواند افراد را بر اساس گرایش سیاسی آن ها طبقه بندی کند. مطمئناً این الگوریتم فاقد قدرت گوگل و فیس بوک است که می توانند از آن استفاده می کنند.
این یافته به این معنی است که بیش از آنچه که انسان قادر به درک آن باشد اطلاعات در عکس ها هست. رایانه ها در حوزه کلان داده، از انسان بهتر عمل می کنند که چیز جدید برای بشریت است.
- چه اتفاقی رخ می دهد وقتی خروجی ای الگوریتم را با توجه دوربین های مدار بسته و آنلاین که در همه جا هصبند ترکیب کنیم؟
این پرسش اساسی است. مردم احساس می کنند می توانند با هوشیار بودن و مراقبت از خود در فضای آنلاین، مراقب حریم خصوصی خود باشند. اما دوربین ها همه جا هستند و ما نمی توانیم چهره خود را پنهان کنیم. ما هیچ انتخاب و رضایتی برای افشای این اطلاعات نداریم. با وجود پایگاه داده متشکل از این عکس ها، (که میتواند از طرف مقامات مورد سوء استفاده قرار گیرد) شرایط را کامل تغیر دهد.
- آیا کارهایی مانند نقاب زدن، ممکن است شما را در برابر این الگوریتم ها محافظت کنیم؟
احتمالاً نه! می توانید نقاب بزنید؛ اما الگوریتم بر مبنای پیشانی و چشمان شما، تحلیل و قضاوت می کند. اگر کلاه سرخود بگذارید، در ابتدا ممکن است الگوریتم فریب بخورد اما کم کم به بی معنی بودن آن پی برده و از تفسیر آن صرف نظر کرده و آن را تعدیل می کند.
نکته اینجاست که اگر چهره خود را پنهان کنیم، هوش مصنوعی(الگوریتم ها) از روی سایر داده ها از قبیل نوع لباس، صدا، سوابق خرید، جستجو در تارگاه ها و غیره دست به تحلیل و پیش بینی می زند.
- برای کسانی که علاقمند فرنولوژی / فیزیوگنومی هستند، چه مطلبی دارید؟
این افراد خیلی زود نتیجه گیری کرده اند. اینجا واقعاً بحث از چهره نیست. ما در مورد خصوصیاتی حرف می زنیم که بیولوژیکی نیستند همانند رفتار فیزیکی، کیفیت تصویری، جهت گیری سر و غیره! در مقاله اخیر به هیچ عنوان بر روی جنبه های فیزیولوژیکی تمرکزی نداشته ام بلکه فقط نشان دادم هوش مصنوعی قادر به نمایش و گزارش گرایش سیاسی از تصاویری است که از چهره گردآوری کرده است.
فکر می کنم که تفاوت در سبک، مد لباس، ثروت، فرهنگ، نرم ها و عوامل محیطی بین لیبرال ها و محافظه کارها مشهود باشد و این در تصاویر خود را نشان می دهد.
- چرا تصمیم گرفتید در مقاله قبلی روی گرایش جنسی تمرکز کنید؟
علت در ظرفیت تهاجمی این موضوع است که هنوز به عنوان تهدیدی جدی در پاره ای از کشورها وجود دارد و می تواند مورد سوء استفاده قرار گیرد. آزمایش ها فرضیه را تأیید کرد؛ از تکرار آزمایش شگفت زده شدیم؛ در واقع ماشینی که طراحی کرده بودیم با دقت بالا گرایش جنسی افراد را پیش بینی می کرد.
ما تمایلی برای انتشار نتایج تحقیقات نداشتیم. ابتدا آن را با گروه هایی که در حمایت از حقوق LGBTQ[2] فعالیت دارند مطرح کردیم و همینطور با قانون گذاران در همایش هایی که متمرکز بر امنیت سایبری بودن؛ پس از دو یا سه سال، به این جمع بندی رسیدیم که نتایج را در نشریات علمی منتشر کنیم؛ پس از آن، آگهی رپرتاژهایی از شرکت های نوپایی که این خدمات را تبلیغ می کردند مشاهده کردیم. قصد داشتیم تا مطمئن شویم که مردم و سیاست گذاران از اینکه برخی استارت آپ در این فضا مشغول فعالیت هستند آگاهند؛ فضایی که نیازمند بررسی عاجل و مقررات گذاری دارد.
- آیا این خطر که این فن آوری برای مقاصد تجاری استفاده شود وجود دارد؟
این خطر نیست؛ واقعیت است! زمانی که متوجه شدم چهره ها رمز و رازی از درون را افشا می کنند؛ بررسی هایی را بر روی درخواست های ثبت اختراع انجام دادم. در فاصله سال های بین ۲۰۰۸ تا ۲۰۱۲ پتنت هایی توسط استارت آپ ها ثبت شده بود که دقیقاً همین خدمات را ارائه می دادند؛ وب سایت هایی هم مدعی ارائه چنین خدماتی بودند. برای خودم و دنبال کنندگان کارهایم شوکه کننده بود زیرا آن ها فکر می کردند این فعالیت ها با من شروع شده اند یا حداقل ظرفیت این موضوع توسط من رسانه ای شده است. در واقع در حال حاضر صنعتی وجود دارد که این فعالیت تهاجمی را پیگیری می کند.
درس بزرگ این است که ما قادر به محافظت از شهروندان در برابر خطرات ذاتی فن آوری با تلاش پنهان کردن مخاطرات آن نیستیم. کسانی که انگیزه مالی دارند زودتر به آن سو می رسند. نیاز ما، پذیرش مخاطرات جدی نقض حریم خصوصی از این طریق توسط قانون گذار است تا بتوانیم حفاظ نظارتی قانونی برای این موضوع برپا کنیم.
- آیا از روی کنجکاوی عکس خودت را درون این ماشین قرار داده اید؟
فکر کنم روش های بهتری برای این کار وجود دارد. تلاش من عدم استفاده از این الگوریتم ها در این زمینه است. من عکس خود را به این ماشین نداده ام و فکر هم نمی کنم کس دیگری این کار را انجام داده باشد.
[۱]فرنولوژی فرآیندی است که شامل مشاهده و/یا احساس جمجمه برای تعیین ویژگی های روانی فرد می شود.فرانتس جوزف گال معتقد بود که مغز از ۲۷ اندام منفرد تشکیل شده است که شخصیت را تعیین می کنند، اولین ۱۹ اندام از این «ارگان» که او معتقد بود در سایر گونه های جانوری وجود دارد. فرنولوژی یک شبه علمی است که شامل اندازه گیری برجستگی های روی جمجمه برای پیش بینی ویژگی های ذهنی است.این بر اساس این مفهوم است که مغز اندام ذهن است، و مناطق خاصی از مغز دارای عملکردها یا ماژول های محلی و خاص هستند.(نت+ویکی پدیا)
[۲] LGBT is an initialism that stands for lesbian, gay, bisexual, and transgender. In use since the 1990s, the initialism, as well as some of its common variants, functions as an umbrella term for sexuality and gender identity.
