پیام اسفندیاری، مدیر ارشد سابق دیتای بلوبانک: تیم‌ داده باید بتواند از تک تک تصمیمات خود دفاع کند

یک درصد خطا در بیزینس، عدد بسیار بزرگی است که می‌تواند با میلیون‌‌ها دلار خسارت همراه باشد. بهترین مثال چنین گزاره‌ای، شاید تصادفی است که چند سال پیش خودروی تسلا با کامیون چپ شده در جاده بود. خودروی تسلا بدون لحظه‌ای توقف در سقف این کامیون فرو رفت. فراموش نکنیم خطاهای کوچک گاهی جبران ناپذیر می‌شوند.

شیوه درست استفاده از هوش مصنوعی مدام به روز رسانی‌ می‌شود. برای مثال در گذشته تعدد داده‌ها می‌توانست برای یک مدل مزیت محسوب شود. اما بعد از گذشت مدتی، این طراحی درست یک الگوریتم بود که ارزش پیدا کرد؛ امروز به نظر می‌رسد بعد از عبور از این مراحل، حالا، یان قابل اعتماد بودن داده‌هاست که حرف اول را می‌زند.

در واقعا امروزه فضای «آموزش ماشین‌ها» یا ماشین‌ لرنینگ اگر قرار باشد به درستی ترسیم شود، نیاز به افزودن یک بعد احساس می‌شود که آن را می‌توان «توضیح‌پذیر بودن» نامید. من بر این باورم که وقت آن رسیده که بپذیریم به ابزارهای جدیدی برای رسیدن به نتایج مطلوب نیاز داریم. ابزارهایی که مدل‌های موجود را جراحی کند تا ریشه شکل‌گیری مشکلات کنونی را پیدا کند.

یکی از مشکلات تیم‌های دیتا در سراسر دنیا این است که نمی‌توانند از مدل‌های پیشنهادی خود به درستی دفاع کنند و درگیر یادگیری عمیق یا همان دیپ لرنینگ شده‌اند. در صورتی که در خیلی از مواقع، مدل‌ها باید آنقدر ساده باشند که امکان توضیح آن‌ها برای کودکان هم وجود داشته باشد.

در چنین ساز و کاری چالش‌های تازه‌ای به وجود می‌آید. مثلا « چطور اطمینان پیدا کنیم که مدل در نظر گرفته شده با پیش‌فرض ذهنی طراحی نشده است؟» یا « الگورتیم‌های موجود در مدل باید به خوبی درک شوند تا شیوه کار کردن هر به شکل دقیق مشخص شود»

فراموش نکنیم که « با قدرت‌ بیشتر، مسئولیت هم بیشتر می‌شود.» و توضیح‌پذیر کردن داده‌ها و مدل‌های طراحی شده در جهان هوش مصنوعی می‌تواند اعتماد جمعی ایجاد کند؛ این مسئولیتی است که به نوعی به عهده فعالان در این حوزه است.

همچنین باور من این است که لزومی ندارد برای هر چالشی یک ماشین لرنیگ به کار گرفته شود و به طراحی مدلی بر اساس هوش مصنوعی برسیم. برای مثال ما بعد از چالش‌های فرآوان در بلوبانک برای تشخیص تقلب از مدل شاپ استفاده کردیم که بتوانیم تقلب و تخلف را به حداقل برسانیم.

به عنوان پایان اما از مدیران می‌خواهم که از تیم داده خود هرچیزی را قبول نکنید مگر با توضیح و دلیل. کارشناسان داده باید بتوانند از تک تک تصمیمات خود دفاع کنند و دلیل هر کدام را شفاف توضیح دهند. از مدیران می‌خواهم که در نظر داشته باشند مسائل امروز در صنعت ما خیلی ساده‌تر از تصور حل می‌شوند و گاهی تاکید بر استفاده از مدل‌های پیچیده و دیپ‌لرنینگ فقط ما را از رسیدن به هدف اصلی دور می‌کند. همچنین به عنوان توصیه آخر می‌خواهم بگویم
وقتی مدلی کار نمی‌کند آن را دور نندازید و برای درک و استخراج همه باگ‌های آن تلاش کنید.