اخبار

اعتماد و شفافیت: آینده هوش مصنوعی

اعتماد و شفافیت: آینده هوش مصنوعی

علی بغدادی

کارشناس عملیات راهکارهای تحلیلی داتین

در طول سالهای دهه 80 و 90 میلادی، هوش مصنوعی (AI) مفهومی بود که در بسیاری از فیلمهای علمی تخیلی به نمایش درمی‌آمد - روشی که اغلب برای القا وحشت و به تصویر کشیدن دیستوپیا- آینده‌ای که در آن بشریت در آرزوی پیشرفت فناوری تلاش می‌کند- به نمایش در آمده است. پیشرفت سریع و رو به جلو در عصر حاضر باعث شده است تا ما پی ببریم در عصری زندگی میکنیم که به‌وسیله داده تعریف می‌شود؛ عصری که هوش مصنوعی نقش مهمی در بسیاری از بخشهای آن ایفا میکند.

این تکامل به لطف توانایی ما برای ذخیره‌سازی موثر، سازماندهی و تجزیه و تحلیل دادهها به وجود آمده و بیشتر توسط اینترنت اشیا (IoT) تکمیل شده است، اینترنت اشیا، دادهها و اطلاعات بیشتری در مورد زندگی روزمره ما فراهم میکند. اساساً در دسترس بودن دادهها و توانایی ما برای استفاده از آن با محاسبات پیشرفتهتر و ارزان‌تر، نوع زندگی و تجارت را تغییر داده است. اکثر افراد به این درک رسیده‌اند و تشخیص می‌دهند که هوش مصنوعی میتواند دنیای غنی دادهها را به‌طور فزایندهای در دسترس عموم قرار دهد. با وجود این، نیازهای جدیدی در حال ظهور است؛ زیرا مصرف‌کنندگان سوال میکنند که هوش مصنوعی اکنون به چه میزان قابل اعتماد است؟ نیاز به هوش مصنوعی قابل توضیح (XAI) است.

چگونه مردم میتوانند به تصمیمات اتخاذ شده توسط سیستمهای هوش مصنوعی اعتماد کنند؟ اگر فرایندی را که زیربنای هوش مصنوعی است درک نکنند و نتوانند به دادههای هوش مصنوعی دسترسی پیدا کنند آیا باز هم به هوش مصنوعی اعتماد می‌کنند؟

اگر هوش مصنوعی و فرایندها و داده‌های تحلیل شده آن شفاف نباشد، آیا واقعاً میتوانیم اطمینان حاصل کنیم که این تصمیمات دقیق و درست بوده است؟ این یک سؤال مهم است که نیاز به پاسخ دارد و این مسئله‌ای است که فناوری XAI می‌تواند به شما در رسیدن به جواب کمک کند!

اخیراً شاهد بودیم که برخی از شرکتهای پیش‌رو در فناوری هوش مصنوعی جهان متهم به استفاده بیش از حد و تکیه بر داده‌های هوش مصنوعی و تصمیم‌گیری اشتباه شده‌اند. شاید بهترین راه شرح این موضوع در رابطه با برخی از کارتهای اعتباری روشن شود، جایی که گفته میشد هوش مصنوعی، 10 تا 20 برابر رتبه اعتباری بالاتری به آقایان نسبت به همسران آنها داده‌ است.

کمیسیون مالی و خدمات ایالت نیویورک در نتیجه این اشتباه تحقیقاتی بر آن شد تا بررسی کند چرا هوش مصنوعی تبعیض قائل شده و رتبه اعتباری بیشتری به آقایان نسبت به خانم‌ها داده است. خارج از صنعت مالی، سایر بازیگران اصلی نیز به دلیل استفاده از سیستمهای هوش مصنوعی مورد بازبینی و تحقیق قرار گرفتهاند.

اگر این واقعیت را در نظر بگیریم که امروزه اکثر شرکتها با سیستمهای هوش مصنوعی «بلک باکس یا سیستم بسته» کار می‌کنند، جای تعجب نیست که بسیاری از مصرف‌کنندگان به هوش مصنوعی هنوز هم اعتماد ندارند و این شک بیش از قبل قابل توجیه است. سیستمهای هوش مصنوعی بر دادهها متکی هستند و با استفاده از یادگیری ماشینی، اطلاعات را تحلیل می‌کنند. بنابراین اگر داده‌های اشتباه را تحلیل کنند احتمالاً تصمیم‌گیری اشتباهی خواهند کرد. این سیستمهای بسته هوش مصنوعی (بلک باکس) مشتری نهایی را در تاریکی رها میکنند و هیچ کاری برای جلب اعتماد به این فناوری انجام نمیدهند. اکثر شرکتها معمولاً خیلی دیر متوجه می‌شوند که هوش مصنوعی آنها با تحلیل داده‌های نادرست به آنها در تصمیم‌گیری‌های اشتباه کمک کرده است.

راه‌حل همه این موارد «جعبه سفید یا سیستم هوش مصنوعی باز» است که به اختصار سیستمهای XAI نامیده می‌شود. این سیستم به زبان ساده توضیح میدهد که نرمافزار چطور کار میکند و چگونه تصمیماتی می‌گیرد و البته قادر است به سؤالات و پیگیری‌هایی با هدف به حداکثر رساندن آگاهی و رضایت مشتری پاسخ دهند.

شفافیت برای ایجاد اعتماد بسیار حائز اهمیت است و با توضیح اینکه چگونگی و چرایی تصمیمات خاص اتخاذ شده است، XAI می‌تواند هم به مشتریان و هم به شرکت‌ها کمک کند تا درک کنند آن‌ها نیاز دارند چه کار کنند و نتیجه متفاوت و سودمندی بگیرند. در عمل، این رویه می‌تواند به معنای تغییر در نتایج درخواست وام یا وام مسکن رد شده به وام مورد پذیرش باشد.

XAI سناریوهای برد- برد را هم برای شرکت و هم مشتری ایجاد می‌کند. از یک طرف، مشتری میتواند از بینشهای ارائه شده توسط فناوری XAI برای بهبود وضعیت خود استفاده کند، در حالی که شرکت میتواند از اطلاعات اضافی مشتری بهره ببرد تا محصولات یا خدماتی را که برای مشتری خاصی مناسبتر است پیشنهاد دهد یا حتی خطوط کاملاً جدید تجاری را راه‌اندازی کند.

علاوه بر شفافیت افزوده، مدلهای XAI محورهای دیگری هم دارند. XAI میتواند با استفاده از کمک انسانی به راحتی تجزیه و تحلیل و تقویت خود را بهبود بخشد و به سیستمی عادلانهتر و ایمنتر تبدیل شود؛ زیرا نواقص با گذشت زمان میتواند به تدریج برطرف شود. سیستم عاملهای XAI منحصر به فرد هستند و تنها به دادهها متکی نیستند بلکه توسط تجربه انسانی بهتر و قابل اعتمادتر میشوند.

در صنعت بانکداری، پتانسیلی که XAI برای بهبود تجربه مشتری دارد، بسیار زیاد است. در حال حاضر تصمیمات مهم در مورد ریسک اعتباری ، مدیریت ثروت و حتی ارزیابی ریسک جرم مالی توسط هوش مصنوعی می‌تواند انجام شود. از دیگر کاربردهای مهم هوش مصنوعی میتوان به قیمت‌گذاری هوشمند، توصیه محصول، خدمات سرمایه‌گذاری و جمعآوری بدهی اشاره کرد.

از منظر مقررات و الزامات قانونی بانکداری آزاد، اطلاعات زیادی برای به دست آوردن از مشتریان و صاحبان کسب‌وکار وجود دارد، نیاز برای ارائه چارچوبی مشخص حس می‌شود که در آن میتوان مقادیر زیادی از داده‌های به اشتراک گذاشته و برای ارائه راه‌حل‌های مشتری‌محور مورد استفاده قرار گیرد. در نتیجه، ما باید در آینده در انتظار مقررات سختگیرانهتری باشیم که متکی به اطمینان از الگوریتمهای هوش مصنوعی باشند، باید مطمئن شویم که هوش مصنوعی یک‌جانبه عمل نمیکند و تا حد امکان شفاف باقی میماند.

با نگاه به آینده میتوان انتظار داشت که XAI رشد کند. نه تنها به خاطر اینکه سفر کاربر را شخصی‌سازی می‌کند و انتظار مشتریان بانک‌ها را برآورده میکند، بلکه به این دلیل که دید و اشراف بهتری به اطلاعات مهمی که برای جلب اعتماد مصرفکنندگان و تنظیم کنندهها لازم است را داراست. خلاصه اینکه ، وضعیت XAI دیگر «داشتن آن خوب است» نیست، بلکه «باید آن را داشت» است.


منبع

www.temenos.com