هوش مصنوعی در کسب‌وکار؛ از انتخاب مسئله تا اجرای آزمایشی

وقتی صحبت از هوش مصنوعی می‌شود، معمولاً خیلی زود فهرستی از ایده‌ها شکل می‌گیرد: پاسخ‌گویی به مشتری، پیش‌بینی فروش، بررسی اسناد، کنترل کیفیت یا ساخت یک دستیار داخلی. برای تقریباً همه این ایده‌ها هم ابزاری در بازار وجود دارد. اما سؤال مهم‌تر هنوز باقی است: کدام مسئله واقعاً ارزش شروع‌کردن دارد؟

قبل از انتخاب ابزار باید دید کدام بخش کار واقعاً کند، پرخطا یا پرهزینه است و آیا هوش مصنوعی اصلاً بهترین راه برای بهترکردن آن است.

نقطه شروع، مسئله‌ای روشن است

عبارت «می‌خواهیم از هوش مصنوعی استفاده کنیم» هدف پروژه نیست. هدف باید به زبان کار روزانه تعریف شود؛ مانند کوتاه‌شدن زمان بررسی درخواست‌ها، کمک به یافتن اطلاعات در اسناد، تشخیص موارد نیازمند توجه یا آماده‌کردن پیش‌نویسی که کارشناس بازبینی می‌کند.

هسته چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استاندارد و فناوری آمریکا بر تعریف دقیق وظیفه سامانه و محدوده استفاده تأکید دارد.^۱ پیش از انتخاب ابزار باید پاسخ این پرسش‌ها روشن باشد:

1. کاربر واقعی سامانه چه کسی است؟
2. اکنون چه کاری را، با چه ورودی و روشی انجام می‌دهد؟
3. کدام بخش کار زمان‌بر، تکراری یا خطاپذیر است؟
4. سامانه قرار است پیشنهاد بدهد، پیش‌نویس بسازد یا تصمیم بگیرد؟
5. پاسخ نادرست چه آسیبی می‌تواند ایجاد کند؟
6. چه کسی نتیجه را بررسی و تأیید می‌کند؟

اگر این پرسش‌ها پاسخ روشنی ندارند، نمونه اولیه فقط ابهام موجود را به ابزاری تازه منتقل می‌کند.

چه زمانی هوش مصنوعی انتخاب مناسبی نیست؟

بعضی مسئله‌ها با مرتب‌کردن داده، اصلاح روش کار یا تعریف یک قاعده روشن حل می‌شوند. هوش مصنوعی زمانی می‌تواند گزینه‌ای جدی باشد که مسئله به تشخیص الگو، کار با متن و تصویر، دسته‌بندی، پیشنهاد یا پیش‌بینی وابسته باشد و روش‌های ساده‌تر پاسخ کافی ندهند.

سه بررسی اولیه می‌تواند جلوی شروع‌های پرهزینه را بگیرد:

• ثبات جریان کار: اگر هر واحد کار را به روشی متفاوت انجام می‌دهد، نخست باید حداقل شکل مشترک کار روشن شود.
• دسترسی به ورودی مناسب: اگر نمونه‌های گذشته ناقص یا پراکنده‌اند، برآورد توان سامانه دشوار می‌شود.
• امکان سنجش: اگر معلوم نیست «پاسخ قابل قبول» چیست، درباره موفقیت یا شکست آزمون هم نمی‌توان تصمیم گرفت.

هدف، منتظرماندن برای داده بی‌نقص نیست؛ باید محدودیت‌ها پیش از اختصاص جدی منابع شناخته شوند. گاهی همان آزمون محدود نشان می‌دهد چه داده‌ای کم است یا کدام بخش کار باید پیش از توسعه فناوری اصلاح شود.

مسئله مناسب را چگونه انتخاب کنیم؟

گزینه‌ها باید با چند ملاک محدود و روشن مقایسه شوند. مسئله‌ای که برای شروع مناسب‌تر است معمولاً شناخته‌شده است، کاربر و مسئول مشخص دارد، ورودی‌هایش در دسترس‌اند و می‌توان نتیجه را در مقیاسی محدود دید.

برای مقایسه بپرسید:

• این مسئله چه اثری بر مشتری، هزینه، زمان یا ریسک دارد؟
• چند نفر و چند واحد درگیر آن‌اند؟
• ورودی لازم کجاست و کیفیت آن تا چه حد معلوم است؟
• خطای سامانه چه پیامدی دارد و آیا با بازبینی انسانی کنترل می‌شود؟
• نتیجه آزمون با چه نشانه‌ای پذیرفتنی یا نامناسب شناخته می‌شود؟
• اتصال راهکار به کار روزانه چقدر دشوار است؟

امتیازدهی قرار نیست پاسخ قطعی بسازد؛ تفاوت گزینه‌ها و دلیل انتخاب را آشکار می‌کند.

نقش نظارت انسانی چیست؟

واگذاری بخشی از کار به هوش مصنوعی، مسئولیت انسانی را حذف نمی‌کند. اصول هوش مصنوعی سازمان همکاری و توسعه اقتصادی بر شفافیت متناسب، امکان نظارت و مداخله انسانی و مدیریت مستمر ریسک در طول عمر سامانه تأکید می‌کند.^۲ چارچوب NIST نیز مشخص‌کردن نقش‌ها و مسئولیت‌ها در تعامل انسان و سامانه را بخشی از طراحی می‌داند.^۱

از ابتدا باید معلوم باشد:

• چه کسی ورودی را آماده می‌کند؛
• چه کسی پاسخ را می‌بیند و بررسی می‌کند؛
• کدام پاسخ‌ها بدون تأیید نباید استفاده شوند؛
• کاربر چگونه خطا یا مورد مشکوک را گزارش می‌دهد؛
• چه کسی اختیار توقف، اصلاح یا محدودکردن استفاده را دارد.

شدت نظارت به پیامد خطا بستگی دارد. پیش‌نویس یک متن داخلی با پیشنهادی که بر استخدام، اعتبار مشتری، ایمنی یا تعهد مالی اثر می‌گذارد یکسان نیست. هرچه پیامد جدی‌تر باشد، محدوده استفاده، مسیر تأیید و امکان بازگشت باید دقیق‌تر تعریف شود.

اجرای آزمایشی را چگونه ارزیابی کنیم؟

نمونه اولیه زمانی مفید است که به تصمیم بعدی برسد. نمایش چند پاسخ خوب در جلسه برای قضاوت کافی نیست. NIST پیشنهاد می‌کند ارزیابی در شرایطی نزدیک به محیط واقعی انجام شود و رفتار سامانه پس از استقرار نیز زیر نظر بماند.^۱

پیش از آغاز، برگه تصمیم آزمون بهتر است این موارد را دربر بگیرد:

• مسئله، کاربر و محدوده استفاده؛
• وضعیت فعلی کار و روش مقایسه؛
• داده یا نمونه‌های آزمون و محدودیت‌های شناخته‌شده آن‌ها؛
• معیار پذیرش و خطاهای غیرقابل قبول؛
• نقش بازبینی انسانی و مسیر ثبت بازخورد؛
• مدت و دامنه آزمون؛
• تصمیم‌های ممکن در پایان: توقف، اصلاح، آزمون دوباره یا استفاده محدود.

معیارها باید از خود مسئله بیایند. برای دستیار جست‌وجوی اسناد، یافتن پاسخ مرتبط و ارجاع درست به منبع مهم است. برای دسته‌بندی درخواست، میزان نیاز به اصلاح انسانی و نوع خطا اهمیت دارد. سرعت به‌تنهایی کافی نیست؛ پاسخ سریع و نادرست ممکن است کار بیشتری برای اصلاح ایجاد کند.

داده و محرمانگی را به بعد موکول نکنید

مدیر باید بداند چه اطلاعاتی وارد سامانه می‌شود، چه کسی به آن دسترسی دارد، داده کجا نگهداری می‌شود و تأمین‌کننده بیرونی چه استفاده‌ای از ورودی‌ها می‌کند. این موضوع برای اسناد مالی، اطلاعات کارکنان، داده مشتری و دانش فنی اهمیت بیشتری دارد.

راهنمای بررسی مسئولانه هوش مصنوعی سازمان همکاری و توسعه اقتصادی از بنگاه‌ها می‌خواهد پیامدهای نامطلوب احتمالی را شناسایی و ارزیابی کنند، برای پیشگیری یا کاهش آن‌ها اقدام کنند و نتیجه را پی بگیرند.^۳ برای انجام این کار، واحد کسب‌وکار، فناوری، حقوقی یا انطباق و مسئول داده باید از ابتدا با یکدیگر گفت‌وگو کنند؛ موضوع را نمی‌توان به‌طور کامل به تیم فنی سپرد.

مرزهای اولیه باید روشن کنند چه داده‌ای مجاز است وارد ابزار شود، آیا داده واقعی لازم است یا نمونه ناشناس کافی است، سابقه درخواست و پاسخ تا چه زمانی نگهداری می‌شود، خروجی را چه کسی می‌بیند و در صورت خطا یا افشای ناخواسته چه اقدامی انجام می‌شود.

از آزمون محدود تا استفاده روزمره

ورود از آزمون محدود به کار روزمره فقط تصمیمی فنی نیست. مسئول نگهداری، هزینه جاری، آموزش کاربران و شیوه تشخیص افت کیفیت باید روشن باشد. با تغییر ابزار بیرونی، داده یا جریان کار، نتیجه آزمون اولیه ممکن است دیگر معتبر نباشد.

برای توسعه تدریجی، چهار مرحله تصمیم‌گیری در نظر بگیرید:

1. بررسی اولیه مسئله: آیا مسئله روشن، مهم و قابل سنجش است؟
2. آزمون کنترل‌شده: آیا راهکار با نمونه‌های واقعی و نظارت انسانی پذیرفتنی عمل می‌کند؟
3. استفاده محدود در محیط واقعی: آیا راهکار در یک واحد یا جریان مشخص، بدون ایجاد اختلال وارد کار می‌شود؟
4. تصمیم درباره گسترش: آیا شواهد کافی برای گسترش استفاده وجود دارد و مسئولیت، هزینه و شیوه پیگیری آن روشن است؟

در هر مرحله، توقف می‌تواند تصمیمی درست باشد. کنارگذاشتن روشی که مسئله روشنی ندارد یا ریسک آن قابل کنترل نیست، از اختصاص منابع بیشتر جلوگیری می‌کند.

چک‌لیست جلسه شروع بررسی

پیش از سفارش ابزار یا تعریف پروژه، مدیران باید بر سر مسئله، کاربر و واحد مسئول، روش فعلی کار، ورودی و داده در دسترس، پیامد خطا، محل تصمیم و نظارت انسانی، معیار پایان آزمون و گام بعدی توافق کنند.

هوش مصنوعی زمانی به کار کسب‌وکار می‌آید که از مسئله‌ای واقعی آغاز شود، در محدوده‌ای قابل کنترل آزموده شود و نتیجه آن به تصمیمی روشن برسد. ابزار جای تعریف مسئله، مسئولیت مدیریتی و بازبینی انسانی را نمی‌گیرد.

صفحه داده و اتوماسیون نحوه شروع از مسئله، داده و کار واقعی را توضیح می‌دهد. برای مقایسه این مسیر با مسائل راهبردی و فرایندی، خدمات و راهکارهای چاره‌یار را ببینید. رویکرد چاره‌یار به حل مسئله نیز مسیر تشخیص، طراحی راه‌حل و اجرا را نشان می‌دهد.