انارنامه/مجله
مجله
رفتار با ایجنت هوش مصنوعی مثل کارمند: چرا ایده‌ی خوبی نیست؟
۵ مهر ۱۴۰۵
تیم مالی یک شرکت ایجنتی راه انداخته که فاکتورها را با سفارش‌های خرید تطبیق می‌دهد. اسمش را «نیما» گذاشته‌اند، در چارت تیم جا دارد و در جلسه‌ها می‌شنوید که می‌گویند: «نیما هنوز گزارش اختلاف‌ها را نفرستاده». رفتار با ایجنت هوش مصنوعی مثل کارمند در بعضی سازمان‌ها همین‌قدر عادی شده است. برخی می‌گویند که این عادت نظارت مدیران را سست می‌کند. با اینکه ایجنت بخشی از کار کارمند را انجام می‌دهد اما مثل کارمند پاسخ‌گو نیست. مدیری که ایجنت را همکار بداند، خودش کمتر خروجی را بازبینی می‌کند و مسئولیت خطا را میان ایجنت، تیم و رهبری پخش می‌کند.
ایجنت‌ها به‌عنوان «همکار»
شکل رایج‌تری از همکار بودن ایجنت‌ها در سازمان، دادن اسم و نقش به هوش مصنوعی است. ایجنت عنوان می‌گیرد، برایش اهداف عملکردی می‌نویسند و کنار انسان‌ها در نمودار سازمانی ثبت می‌شود. رهبران برای این کار دو دلیل می‌آورند: فناوری برای کارکنان کمتر غریبه شود و جاه‌طلبی هوش مصنوعی شرکت به چشم سرمایه‌گذار، مشتری و تیم بیاید. یکی از تحلیلگران Gartner می‌گوید که هر کسی که ایجنت را «نیروی انسانی» معرفی کند، هزینه‌اش را از سقف بودجه‌ی فناوری به بودجه‌ی نیروی انسانی، که بزرگ‌تر است، منتقل کرده. او یادآوری می‌کند که ایجنت را نمی‌شود در برنامه‌ی بهبود عملکرد گذاشت. اسم‌گذاری ظاهراً سلیقه‌ای است، اما همین اسم‌گذاری تعیین می‌کند که مدیر کار را چگونه بازبینی کند و مسئولیت خطا به گردن چه کسی بیفتد.
تفاوت کارمند و ایجنت
«کارمند» سه چیز را کنار هم دارد: کار را انجام می‌دهد، درباره‌ی آن قضاوت می‌کند و برای پاسخ‌گویی درباره نتیجه حاضر می‌شود. ایجنت بخش اول را با سرعت و حجم بالا انجام می‌دهد. در قضاوت تا حدی توانا است. اما بخش سوم را ندارد: او حافظه‌ی شغلی ندارد، از اعتبار حرفه‌ای برخوردار نیست و از اشتباهش نمی‌آموزد. مدیر وقتی که خروجی یک کارمند را می‌بیند، خروجی را می‌سنجد و دقت و تلاش آن آدم را هم بررسی می‌کند. اما چون ایجنت انگیزه‌ای برای کم‌کاری ندارد وسواس نظارتی کنار می‌رود. با این حال برچسب «کارمند» حس مالکیت را از مدیر دور می‌کند و مسئولیت را به گردن ایجنت می‌اندازد. گزارش ماهانه را در نظر بگیرید. اگر شما خودتان با یک ابزار پیش‌نویس آن را گرفته باشید، امضای پای گزارش را کاملاً مال خود می‌دانید. اگر «نیما» نوشته باشد، ذهن گزارش را، کار نیما می‌بیند. شما هم حس اینکه صاحب ابزار بوده‌اید را از دست می‌دهید. همچنین مثل زمانی که سرپرستِ یک همکار انسانی هستید، هوشیار نخواهید بود.
وقتی ایجنت کارمند حساب می‌شود، بازبینی چه تغییری می‌کند؟
پژوهشگران از مدیران منابع انسانی و مالی خواستند در زمانی محدود اسناد شرح شغل یا گزارش بودجه که خطاهای عمدی داشتند را بازبینی کنند. محتوا برای همه یکسان بود و فقط معرفی تهیه‌کننده فرق می‌کرد: ابزاری هوش مصنوعی که خود مدیر به کار برده، کارمند هوش مصنوعیِ عضو تیم او، یا کارمند انسانی. کل شرکت‌کنندگان تفاوت‌های کمی با هم داشتند. اما مدیرانی که سازمان‌شان از قبل ایجنت‌ها را در چارت ثبت کرده بود، رفتار دیگری نشان دادند. با توصیف «کارمند هوش مصنوعی»، در اسناد خطای کمتری پیدا کردند و بیشتر خواستند دیگری هم اسناد را بازبینی کند، حتی وقتی که بازبینی غیرضروری جریمه داشت. این مدیران سهم سرزنشی که برای خودشان می‌گذاشتند کمتر شد و بخشی از آن به ایجنت و بخشی به تیم و رهبری رسید. پژوهشگران این الگو را اثر «سیب‌زمینی داغ» نامیده‌اند. ارجاع به بازبین دوم همیشه برای احتیاط نیست و گاهی راهی است که امضا فقط مال مدیر نباشد و اگر خطایی ماند، بارش تقسیم شود. یکی از مدیران تعریف کرد ایجنتِ شرکتشان اسم دارد و وقتی اشتباهی پیش می‌آید می‌پرسند «او» چرا اشتباه کرد. اما مسئول آن اشتباه، انسان‌هایی‌اند که آن را مستقر کرده‌اند. مقایسه با گروه سوم نکته‌ی مهمی دارد. مدیرانی که تهیه‌کننده اسناد را انسان می‌دانستند، از همه دقیق‌تر خواندند. پس توضیح «واگذاری کار» به‌تنهایی کافی نیست. محدودیتی که وجود دارد این است که اثر فقط جایی دیده شد که ثبت رسمی ایجنت انجام شده بود. برچسب خالی، بدون اینکه ساختاری پشتش باشد، اثر چشمگیری نداشت. اگر تیم شما فقط اسمی روی دستیارش گذاشته، این یافته حکم قطعی نیست، ولی نشان می‌دهد وقتی اسم به عنوان شغلی و جایگاه رسمی تبدیل شود چه پیش می‌آید.
هزینه‌های پنهان رفتار کارمندی با ایجنت
مسئولیتِ پراکنده
هرچه هوش مصنوعی انسان‌تر دیده شود، سرزنش و مسئولیت بیشتری به دوش او گذاشته می‌شود و از شرکت سازنده یا استقرارکننده برداشته می‌شود. ایجنت را نمی‌توانید توبیخ کنید؛ پس وقتی او را سرزنش می‌کنید، کسی که دسترسی‌هایش را تعیین کرده و خروجی‌اش را تأیید کرده از دید بیرون می‌رود و در پایان هیچ شخصی برای پاسخ‌گویی باقی نمی‌ماند.
بازبینی مضاعف
برای هر ارجاع اضافه زمان و هزینه بیشتری نیاز است. بازبین دوم، به‌ویژه وقتی نتیجه‌ی بازبین اول را از پیش می‌بیند، ممکن است کمتر در بازبینی دقت کند.
فرسایش اعتماد و هویت شغلی
اگر می‌خواهید کارکنان احساس کنند به‌راحتی جایگزین‌شدنی‌اند، هوش مصنوعی را در چارت بگذارید.
نبودِ سود در پذیرش
بسیاری فکر می‌کنند نام و نقش انسانی، استفاده را بیشتر می‌کند. اما در آزمایش، تمایل به پذیرش و ادغام فناوری در کار روزمره بالا نرفت.
آیا اسم‌گذاری روی ایجنت همیشه اشتباه است؟
برای جریان‌های محدود و قاعده‌مند که مسئول پاسخ‌گو از قبل در سیاست‌ها معلوم است، اسم و نقش بی‌ضرر است. مثلاً غربالگری اولیه‌ی رزومه‌ها با امضای نهایی انسان است. اسم حتی می‌تواند ترس کارکنانی را که با فناوری راحت نیستند کم کند. دو لایه را باید از هم جدا کنیم: رابط کاربری می‌تواند صمیمی باشد، ولی دسترسی‌ها و مرز اختیارات باید خشک و دقیق بماند. ثبت ایجنت در یک سامانه‌ی مدیریتی، با مالک، سطح دسترسی و سابقه‌ی اقدام‌ها، کار حاکمیتی است و انجام آن لازم است. آنچه مسئولیت را جابه‌جا می‌کند انسان‌انگاری ایجنت است، و زمانی که ایجنت بدون مدیر انسانی ثبت شود مشکلات شروع می‌شود.
به‌جای «کارمند»، چطور با ایجنت کار کنیم؟
مالک انسانی مشخص: برای هر ایجنت باید یک نفر پاسخ‌گو بگذارید و نامش را کنار مشخصات ایجنت و گزارش‌هایش ثبت کنید. نام این مسئول از نام خود ایجنت مهم‌تر است. اختیارات پیش از راه‌اندازی: فرض کنید ایجنت پشتیبانی، وضعیت سفارش را می‌بیند و پیش‌نویس پاسخ آماده می‌کند، اما بازپرداخت بالاتر از سقف معین فقط با تأیید یک مسئول انسانی انجام می‌شود. این مرز و محدودیت را باید قبل از شروع کار تعیین کنید و در خودِ سیستم آن را اجرا کنید، نه اینکه فقط در یک سند سیاست آن را بنویسید. قاعده‌ی ارجاع: ارجاع بدون قاعده به بهانه‌ای برای فرار از مسئولیت تبدیل می‌شود. برای تصمیم‌های پرریسک از قبل معلوم کنید که با چه شرطی بازبینی بیشتر ضروری است. چه کسی باید بازبینی را انجام دهد و بازبینی اول دست‌کم چه چیزهایی را باید پوشش دهد. نظارت به‌عنوان وظیفه‌ی رسمی: نظارت باید در شرح شغل بیاید و پاداش به کیفیتش گره بخورد؛ مثلاً باید به خطاهایی که در نمونه‌گیری بازبینی کشف می‌شود گره بخورد نه به سرعت تأیید نظارت. مدیر میانی‌ای که مسئول چند ایجنت است نمی‌تواند لحظه‌به‌لحظه کار را دنبال کند و باید بر استثناها متمرکز شود. آموزش ادامه‌دار: خطای ایجنت معمولاً روان و مطمئن به نظر می‌رسد. یک جلسه‌ی معارفه کافی نیست تا کارکنان بدانند کی اعتماد کنند و کی چالش بسازند. این روند تا تبدیل شدن به عادت باید ادامه یابد. زبان روزمره تیم: مسئولیت در گفتار روزمره هم پیدا است. جمله‌ی «نیما اشتباه کرد» را می‌توانید با «سیستمی که ما مستقر کرده‌ایم اشتباه کرد و مسئولش فلانی است» عوض کنید تا مسئولیت را در تیم بگنجانید.
پرسش‌های متداول
ایجنت هوش مصنوعی کارمند است یا ابزار؟
از نظر مسئولیت، نرم‌افزاری است که سازمان یا فردی مستقر کرده و پاسخ‌گوی آن است. از نظر توانایی‌‌هایی که دارد ممکن است به کارمند نزدیک باشد، اما پاسخ‌گویی‌اش در قبال نتیجه مثل یک کارمند نیست.
اگر ایجنت اشتباه کند مسئول کیست؟
مالک انسانی و سازمانی که آن را مستقر کرده. نام مسئول را باید پیش از راه‌اندازی مشخص کنید.
می‌توان ایجنت را در چارت سازمانی ثبت کرد؟
ثبت مدیریتی با مالک و سطح دسترسی مشکلی ندارد. خطر آنجاست که ایجنت جایگاه همکار پیدا کند و اینکه مدیری پاسخ‌گو نداشته باشد.
جمع‌بندی
ایجنت کار کارمند را می‌کند، اما مسئولیتش را نمی‌پذیرد. اسم و نقش تا وقتی که مالک انسانی، حق تصمیم و قاعده‌ی بازبینی روشن باشد، آسیبی نمی‌زند. برای مرحله‌ی راه‌اندازی و تعریف نقش‌ها، مقاله‌ی «مدیریت ایجنت‌های هوش مصنوعی در سازمان» را ببینید.