تحلیل اخلاقی شرایط استفاده از هوش مصنوعی

به گزارش خبرگزاری اکسکو با رشد سریع هوش مصنوعی در حوزه های گوناگون به ویژه در کسب وکارها به کارگیری این فناوری در تعامل با مشتریان به یکی از چالش های اساسی در زمینه اخلاق داده ها تبدیل شده است. پیشرفت های چشمگیر این فناوری در تحلیل داده ها و تصمیم گیری های خودکار نگرانی ها درباره نحوه استفاده از داده های شخصی حفظ حریم خصوصی و تبعیض های الگوریتمی را افزایش داده است.

پژوهشگران در مقاله ای با عنوان «تحلیل اخلاقی شرایط و مقررات استفاده از محصولات و خدمات شرکت های مبتنی بر هوش مصنوعی در ایران» به این موضوع پرداخته است که در دهه های اخیر با پیشرفت های بیشتر در هوش مصنوعی و یادگیری ماشین توجه به ملاحظات اخلاقی و حقوقی به یکی از موضوعات اصلی پژوهش های علمی و سیاست گذاری های جهانی تبدیل شد.

* هوش مصنوعی و مشتریان

به زعم این پژوهش استفاده از هوش مصنوعی فرصت های بی نظیری در ارائه خدمات بهتر به مشتریان فراهم می کند. به عنوان مثال؛ سیستم های هوش مصنوعی قادرند با تحلیل داده های مشتریان پیشنهاد های شخصی سازی شده ارائه دهند تا تجربه مشتری را بهبود بخشند.

در این پژوهش آمده است که با استفاده از الگوریتم های پیشرفته کسب وکار ها می توانند نیاز های مشتریان را پیش بینی کرده و به شیو های سریع تر و کارآمدتر پاسخ دهند.

به گفته این پژوهش استفاده گسترده از هوش مصنوعی و داده های مشتریان مسائل اخلاقی جدی را نیز به همراه دارد. یکی از نگرانی های اصلی استعمار داده ها است که به تلاش شرکت ها برای ادعای مالکیت و خصوصی سازی داده های تولیدشده توسط کاربران اشاره دارد.

علاوه بر این مسئله شست وشوی اخلاقی نیز مطرح شده که به معنای استفاده از اصول اخلاقی به صورت نمایشی است تا نگرانی های مربوط به استفاده از داده ها را کاهش دهد بدون اینکه تغییرات معناداری در سیاست ها و رویه ها ایجاد شود.

* تحلیل مسائل اخلاقی و الگوریتم های هوش مصنوعی

در ادامه این پژوهش آمده است که با استفاده از الگوریتم های پیشرفته کسب وکار ها می توانند نیاز های مشتریان را پیش بینی کرده و به شیو های سریعتر و کارآمدتر پاسخ دهند. در تحلیل مسائل اخلاقی و در مقام یافتن راهکار برخی محققان به اهمیت پاسخگویی الگوریتمی تأکید کرده اند تا اطمینان حاصل شود که تصمیمات گرفته شده توسط الگوریتم های هوش مصنوعی قابل ردیابی هستند.

به گفته این پژوهش این مسئله به ویژه در مواردی که هوش مصنوعی برای تصمیم گیری های مهم استفاده می شود مانند تصمیم گیری های پزشکی یا حقوقی اهمیت بیشتری پیدا می کند.

در این پژوهش ترکیب این مسائل و فرصت ها نشان می دهد که به رهگیری از هوش مصنوعی در کسب وکار ها نیازمند رویکردی است متوازن که هم از مزایای این فناوری بهره برداری کند و هم ملاحظات اخلاقی را رعایت نماید. برخی پژوهش ها هشداردادهاند که بی توجهی به ملاحظات اخلاقی می تواند به تأثیرات منفی گسترد های مانند طرد اجتماعی منجر شود درحالیکه تمرکز بیش از حد بر حمایت از حقوق فردی می تواند مزایای بلاقوه هوش مصنوعی را محدود کند.

* مقررات کسب وکار های مبتنی بر هوش مصنوعی در ایران

این پژوهش با هدف تحلیل شرایط و مقررات کسب وکار های مبتنی بر هوش مصنوعی در ایران به شناسایی و ارزیابی انطباق این سیاست ها با اصول اخلاقی پرداخته است. نتایج نشان داد که اگرچه برخی از کسب وکار ها تلاش هایی برای بهبود شفافیت و حفظ حریم خصوصی انجام داده اند اما کاستی های قابل توجهی در زمینه های شفافیت عدالت و مسئولیت پذیری وجود دارد.

در ادامه این پژوهش آمده است که سیاست ها غالباً فاقد جزئیات عملیاتی و سازکار های نظارتی بوده و به جای ایجاد ارزش متقابل و اعتمادسازی مسئولیت پیامد ها را به کاربران منتقل کرده اند.

یافته های این پژوهش نشان می دهد که سیاست های ایرانی در مقایسه با نمونه های بین المللی بیشتر بر کلیات متمرکز بوده و کمتر به جزئیات فنی و تعهدات عملی پرداخته اند. این مقایسه نشان می دهد که رویکرد های نوآورانه نظیر یادگیری فدرال که در سطح بین المللی توصیه می شوند در سیاست های داخلی نادیده گرفته شده اند.

این پژوهش به کوشش رضا پاینده (استادیار دانشکده حکمرانی دانشگاه تهران) و هستی کنعانی (دانشجوی کارشناسی ارشد دانشکده حکمرانی دانشگاه تهران) انجام شده است.