
ایجنتهای هوش مصنوعی من اجازه دارند بگویند «نمیدانم». اجازه ندارند دکمهی ارسال را بزنند.
کل شیوهی کار من با هوش مصنوعی روی همین یک قانون بنا شده است. کارهایم را با تیمی از ایجنتهای هوش مصنوعی پیش میبرم: در Helper Trade، شرکت بازرگانی و صادراتی خودم در امارات، و در Grand Mizban General Trading، جایی که مدیر اجرایی (Executive Director) هستم. ایجنتها تحقیق میکنند، پیشنویس مینویسند، برچسب میزنند، خلاصه میکنند و کار را آماده میکنند. اما چیزی از دستشان به مشتری، تأمینکننده یا عموم نمیرسد، مگر اینکه خودم تأییدش کرده باشم، یا دستکم اطلاعاتی را که از آن ساخته شده.
این روزها خیلی از کسبوکارهای امارات با همین سؤال درگیرند. امارات با سرعت زیادی ایجنت هوش مصنوعی به کار میگیرد: در نظرسنجی Dataiku و Harris Poll که نتایجش اکتبر ۲۰۲۶ منتشر شد، ۶۲٪ مدیران ارشد فناوری اطلاعات (CIO) در امارات تخمین زدهاند که در سازمانشان بیش از ۵۰ ایجنت هوش مصنوعی در حال کار است. اما فقط ۵٪ گفتهاند میتوانند ظرف یکی دو ساعت یک ایجنت مشکلدار را با اطمینان پیدا و مهار کنند (The National). دبی هم برنامهای دوساله اعلام کرده تا بخش خصوصیاش به سمت هوش مصنوعی عاملمحور (Agentic AI) برود (Dubai Media Office).
خلاصه اینکه سرعت بهکارگیری از کنترل جلو زده است. این نوشته دربارهی کنترل در اندازهی یک کسبوکار است: آدم را کجای کار بگذاریم، و کجا نه.
ایجنت هوش مصنوعی چیست و چه فرقی با چتبات دارد؟
چتبات جواب میدهد. ایجنت هوش مصنوعی کار میکند: اطلاعات جمع میکند، فایل میخواند، پیشنویس مینویسد، رکورد CRM را بهروز میکند و اگر اجازهاش را داده باشید، پیام میفرستد، سفارش ثبت میکند یا پول خرج میکند.
ارزش ایجنت در همین اجازهی اقدام است، و خطرش هم. ریسک ایجنت معمولاً در متنی که مینویسد نیست؛ در کاری است که انجام میدهد.
«انسان در حلقه» در کسبوکار یعنی چه؟
human in the loop، یا «انسان در حلقه»، یعنی ایجنت در نقطهای از پیش تعیینشده میایستد و یک آدم مشخص، پیش از اجرای قدم بعدی، کار را تأیید، اصلاح یا رد میکند.
حالت دیگرش human on the loop است: ایجنت کار را انجام میدهد و آدم از بیرون نظارت میکند تا اگر لازم شد، بعداً دخالت کند.
هیچکدام همیشه بهتر نیست؛ هر کدام جای خودش را دارد:
- تأیید پیش از اجرا برای کارهای برگشتناپذیر، یا کارهایی که بیرون از شرکت دیده میشوند.
- نظارت و دخالت بعدی برای کارهای داخلی که میشود برشان گرداند.
اشتباه رایج این است که یکی از این دو را روی کل یک فرایند بیندازیم. یا همهچیز تأیید لازم دارد و ایجنت به ابزاری کُند برای پیشنویس تبدیل میشود، یا هیچچیز تأیید نمیخواهد و شرکت ریسکی را به دوش میکشد که هیچوقت آگاهانه انتخابش نکرده بود.
به جای «چقدر خودکار؟» بپرسید «کدام کار؟»
سؤال «ایجنت ما چقدر مستقل باشد؟» جواب بهدردبخوری ندارد. سؤال درست این است: کدام کارهای این فرایند برگشتپذیرند، و کدامها ما را در برابر کسی بیرون از شرکت متعهد میکنند؟
فرایندهایی که طراحی میکنم معمولاً به چهار نوع کار تقسیم میشوند. من آنها را مثل پلههای یک نردبان میبینم:
| پله | نوع کار | مثال در یک شرکت بازرگانی | کنترل |
|---|---|---|---|
| ۱ | خواندن و خلاصه کردن | خلاصه کردن پیام خریدار و مشخص کردن کالایی که خواسته | لازم نیست؛ فقط ثبت شود |
| ۲ | پیشنویس و آمادهسازی | پیشنویس جواب، آماده کردن پیشفاکتور، یادداشت داخلی | برای ساختنش لازم نیست؛ پیشنویس هنوز اقدام نیست |
| ۳ | تغییر سوابق داخلی | تغییر وضعیت لید، برچسب زدن به معامله، ثبت یک رکورد تحقیق | بررسی نمونهای و ثبت سابقهی تغییرات |
| ۴ | تعهد بیرون از کسبوکار | ارسال پیام یا پیشفاکتور، تأیید قیمت، پرداخت، انتشار، امضا | اول یک آدم تأیید میکند |
نقطهی تأیید پیش از پلهی چهارم است، نه پیش از پلهی دوم. ایجنتی که پیشفاکتور را آماده میکند هنوز کار برگشتناپذیری نکرده؛ ایجنتی که آن را میفرستد، قول داده است.
برای اینکه جای هر کار را روی نردبان پیدا کنم، سه سؤال میپرسم:
-
برگرداندنش ارزان است؟ برچسب اشتباه در چند ثانیه درست میشود؛ قیمت اشتباهی که برای خریدار رفته، نه.
-
کسی بیرون از شرکت آن را میبیند؟ مشتری، تأمینکننده، عموم مردم یا یک سامانهی دولتی.
-
پولی جابهجا میکند یا تعهدی میسازد؟ خرج کردن، تخفیف دادن، قیمت دادن یا پذیرفتن شرایط.
هر «بله» کار را یک پله بالاتر میبرد. «بله» به سؤال دوم یا سوم یعنی کار باید پشت نقطهی تأیید برود. برای موارد مرزی یک سؤال چهارم هم دارم: منبع ایجنت محکم است؟ اگر ایجنت نتواند نشان دهد یک واقعیت را از کجا آورده، میتواند کار را آماده کند، اما حق تصمیم ندارد.
من چطور این کار را میکنم: MoMo OS
سیستمی را که ایجنتهایم در آن کار میکنند MoMo OS نامیدهام. دربارهی عمرش صادق باشم: اکتبر ۲۰۲۶ راهش انداختم، هنوز تازه است و ادعای نتیجه ندارم. آنچه میتوانم بگویم طراحی آن است، و هر قاعدهاش برای این است که نقطهی تأیید واقعاً کار کند.
یک منبع واحد. ایجنتها از روی چند سند زنده کار میکنند: پروژهها، اولویتهای این هفته، صف کارها، کارهای منتظر دیگران، دفتر تصمیمها و بازبینی هفتگی. چیزی که فقط در یک چت مانده باشد، از نظر سیستم وجود ندارد. وقتی چیزی را تأیید میکنم، بر اساس همان واقعیتهایی تأیید میکنم که ایجنت از آنها استفاده کرده است.
هر ادعا برچسب دارد. هر جملهای که ایجنتها مینویسند یکی از سه برچسب را میگیرد: تأییدشده (با ذکر منبع)، فرض یا پیشنهاد. ایجنتی که منبع ندارد باید بنویسد «فرض». نتیجه اینکه وقتی پیشنویسی برای تأیید به دستم میرسد، حدسها با یک نگاه پیدا هستند. بازبینی بیست خطی که دو خطش «فرض» است، با بازبینی بیست خطی که همه به یک اندازه مطمئن به نظر میرسند، فرق زیادی دارد.
دفتر تصمیمها پاک نمیشود. تصمیمها اضافه یا جایگزین میشوند، اما حذف نمیشوند. یک ماه بعد میخواهم بدانم چرا چیزی را تأیید کردیم، نه فقط اینکه تأیید کردیم.
ریتم هفتگی. این هم تازه است: دوشنبه کارنامه، چهارشنبه نقطهی تصمیم، جمعه گزارش وضعیت. ایجنتها سؤالهایشان را جمع میکنند و یکجا میپرسند، نه اینکه تمام روز پیام بدهند. این اصلیترین سپر من در برابر خستگی از تأیید است.
یک قانون قطعی. هیچ چیزی که کسبوکار را متعهد کند، بدون من بیرون نمیرود: نه پیشنهاد تجاری، نه تخفیف، نه قرارداد. کارهای پشتمیزی با ایجنتهاست؛ تعهدها با من. (تنها استثنای طراحیشده، یعنی جوابهای سادهی پشتیبانی که فقط از اطلاعات ازپیشتأییدشده ساخته میشوند، را پایینتر توضیح دادهام.)
این سیستم در عمل چه شکلی دارد. اکتبر ۲۰۲۶ یکی از ایجنتهایم پستی برای لینکدین آماده کرد که قواعد کارم را توضیح میداد، از جمله اینکه «هیچ چیزی که ایجنتها آماده میکنند بدون من بیرون نمیرود». یک روز قبلش اجازه داده بودم ایجنت آزمایشی Helper در واتساپ جوابهای ساده و ازپیشتأییدشده را خودش بفرستد؛ پس آن جمله دیگر درست نبود. ایجنت دیگری که پیشنویس را با دفتر تصمیمها تطبیق میداد، این تناقض را پیدا کرد. متن را بیسروصدا عوض نکرد؛ تناقض، شاهدش و متن اصلاحشده را در قالب یک درخواست تأیید برایم فرستاد. قاعدهی تازه را تأیید کردم، در دفتر تصمیمها بهجای قاعدهی قبلی ثبت شد و فقط بعد از آن پست اصلاح شد. کار سیستم همین است: واقعیتها با هم بخوانند، تناقض دیده شود و تصمیم با من بماند.
درخواست تأیید خوب چه شکلی دارد؟
کیفیت نقطهی تأیید به کیفیت درخواستی بستگی دارد که به دست تأییدکننده میرسد. اگر برای فهمیدن موضوع تأیید مجبور باشم سه سند را باز کنم، یا زیادی طول میکشد یا نخوانده تأیید میکنم. هر دو شکست است.
این چکلیستی است که هر درخواست تأیید باید از آن رد شود:
- [ ] خود کار، در یک خط: «ارسال پیشفاکتور»، «انتشار پست»، «تأیید رزرو با تأمینکننده».
- [ ] متن دقیق، همانطور که بیرون میرود؛ نه خلاصهاش.
- [ ] گیرنده، یا جایی که منتشر میشود.
- [ ] منابع، با برچسب تأییدشده، فرض یا پیشنهاد برای هر واقعیت کلیدی.
- [ ] موارد نامعلوم، صریح و روشن («زمان تحویل: نامعلوم»).
- [ ] برگشتپذیر است؟ بله یا نه، و برگرداندنش چه هزینهای دارد.
- [ ] بعد از تأیید چه اتفاقی میافتد؟ قدم خودکار بعدی، اگر هست.
- [ ] دو دکمه: تأیید، یا برگرداندن با یادداشت. برگرداندن باید به همان راحتیِ تأیید باشد.
یک مثال فرضی. خریداری برای یک کالا پیشفاکتور میخواهد. ایجنت جواب را پیشنویس میکند و سه چیز را ضمیمه میکند: پیشنهاد فعلی تأمینکننده (تأییدشده، با تاریخ اعتبار)، هزینهیابی (تأییدشده) و زمان تحویل (فرض: تأمینکننده هنوز کتبی تأیید نکرده). کارت تأیید هر سه برچسب را نشان میدهد. برچسب فرض دقیقاً میگوید پیش از تأیید کدام خط را باید چک کنم، یا اینکه کار را با یادداشت «اول زمان تحویل را تأیید بگیر» برگردانم. بازبینی کامل به یک چک سریع تبدیل میشود، چون ایجنت مرتبسازی را از قبل انجام داده است.
یک نمونهی آزمایشی: جوابهای ازپیشتأییدشده در واتساپ
فقط یک جا سیستمی که من اداره میکنم، بدون اینکه هر بار دکمهی تأیید را بزنم، با مشتری حرف میزند: ایجنت پشتیبانی هوش مصنوعی Helper در واتساپ، که از اکتبر ۲۰۲۶ بهصورت آزمایشی (پایلوت) کار میکند. به نظر تناقض میآید، اما نیست.
این ایجنت فقط به سؤالهای ساده جواب میدهد، آن هم فقط از اطلاعاتی که از قبل تأییدشان کردهام. تأیید از روی تکتک پیامها برداشته شده و روی خود اطلاعات نشسته است: یک خط را یک بار تأیید میکنم و ایجنت میتواند بارها از آن استفاده کند. هر چیزی بیرون از این خطها برمیگردد پشت نقطهی تأیید. در واتساپ، درخواست تخفیف، قیمتی که تأیید نکردهایم، شکایت و هر قول تجاری به گوشی خودم ارجاع میشود و خودم پاسخش را میدهم.
این پایلوت از اکتبر ۲۰۲۶ شروع شده و هنوز آزمایشی است؛ پس آنچه میگویم طراحی است، نه کارنامه. جزئیاتش را در نوشتهام دربارهی ربات پاسخگوی واتساپ بیزینس آوردهام.
چیزهایی که هنوز حل نشده
نقطهی تأیید هزینه دارد. اینها هزینههایی است که حواسم به آنهاست:
- من عمداً گلوگاهم. وقتی یک نفر همهچیز را تأیید میکند، سرعت سیستم همان سرعت یک نفر است. ریتم هفتگی کمک میکند و کارت تأیید تمیز بیشتر. اما دیر یا زود، بعضی انواع کار باید به آدمهای مشخص دیگری سپرده شود، نه به ایجنتها.
- تأیید چشمبسته. بعد از بیستمین پیشنویس خوب، وسوسه میشوم بیستویکمی را نخوانده تأیید کنم. برچسبها جلوی این را تا حدی میگیرند، چون خطهای حساس را نشان میدهند، اما وسوسه را از بین نمیبرند.
- قاعدهای که فقط روی کاغذ باشد، دوام نمیآورد. قاعدهای که فقط در دستورالعمل ایجنت نوشته شده، ممکن است نادیده گرفته یا بد فهمیده شود. نسخهی محکمتر این است که تأیید در سطح دسترسیها باشد تا اقدام حساس بدون تأیید اصلاً اجرا نشود. هر جا سیستم هنوز اینطور کار نمیکند، بخشی از کنترل به انضباط وابسته است.
- هنوز اول راه است. MoMo OS تازه است. وقتی چیز واقعی برای گزارش داشتم، مینویسم چه چیزی جواب داد و چه چیزی نه.
کی کنترل را شل کنیم؟
اعتماد باید بر اساس نوع کار بیشتر شود، نه بر اساس کل فرایند. ترتیب منطقی این است:
-
پرتکرار، کمپیامد و برگشتپذیر: از روز اول خودکار، با ثبت سابقه.
-
خطایش زود پیدا میشود و راحت برمیگردد: بعد از یک سابقهی تمیز در همان کار مشخص، خودکار.
-
خطایی که ممکن است کسی متوجهش نشود: حتی اگر خودکار است، یک مسئول مشخص و نظارت میخواهد.
-
تعهد میسازد یا پول جابهجا میکند: تأیید بماند. اینها را فقط چون ایجنت این اواخر خوب کار کرده، آزاد نکنید.
از همین هفته: چکلیست نُهقدمی
-
یک فرایند را انتخاب کنید: پیامهای ورودی، پیشفاکتورها یا پیگیری تأمینکننده.
-
همهی کارهای آن را بنویسید، حتی کارهای کوچک.
-
جای هر کار را با سه سؤال بالا روی نردبان مشخص کنید.
-
اول فهرست «حق ندارد» را بنویسید، بعد فهرست «باید».
-
«نمیدانم» را جواب مجاز کنید؛ خانهی خالی یعنی نامعلوم، نه صفر.
-
فرم درخواست تأیید را پیش از خود ایجنت طراحی کنید.
-
برای تأییدها ریتم ثابت بگذارید تا به وقفهای دائمی تبدیل نشوند.
-
«تمام شد» و «تأیید شد» را دو وضعیت جدا با دو اسم جدا نگه دارید. اینکه مدل کارش را تمام کرده، چیزی را تأیید نمیکند.
-
تأیید را در سطح دسترسیها بگذارید، نه فقط در دستورالعملها: ارسال، پرداخت یا انتشاری که تأییدی پشتش نیست، باید شکست بخورد.
اگر دارید ایجنت هوش مصنوعی برای کسبوکار طراحی میکنید، نقطهی تأیید همان بخشی است که باید اول درست شود؛ بقیه را بعداً راحتتر میشود عوض کرد. میتوانید ببینید MoMo OS چطور کار میکند، یا با ابزار تخمین اتوماسیون برآوردی اولیه بگیرید.
پرسشها
ایجنت هوش مصنوعی چیست؟
برنامهای است که فقط جواب نمیدهد، کار هم انجام میدهد: اطلاعات جمع میکند، پیشنویس مینویسد، رکورد را بهروز میکند و اگر اجازه داشته باشد، پیام میفرستد یا پرداخت میکند. فرقش با چتبات همین اجازهی اقدام است.
«ایجنت» یعنی چه؟
«ایجنت» همان agent انگلیسی است، یعنی عامل یا کارگزار. در هوش مصنوعی به سیستمی میگویند که از طرف شما چند قدم کار را پشت سر هم انجام میدهد، نه اینکه فقط به یک سؤال جواب بدهد.
چگونه میتوانم یک ایجنت هوش مصنوعی بسازم؟
با ابزارهای بدون کدنویسی یا با کد میشود ساخت، اما قدم اول فنی نیست. اول یک فرایند را انتخاب کنید، همهی کارهایش را بنویسید، مشخص کنید ایجنت کدامها را حق ندارد بدون تأیید انجام دهد و فرم درخواست تأیید را طراحی کنید. بعد سراغ ابزار بروید.
human in the loop یعنی چه؟
یعنی ایجنت در نقطهای مشخص میایستد و یک آدم مشخص، پیش از قدم بعدی، کار را تأیید، اصلاح یا رد میکند. در کسبوکار این نقطه باید جلوی کاری باشد که تعهد بیرونی میسازد: ارسال، قیمت دادن، پرداخت، انتشار یا امضا.
آیا ایجنت هوش مصنوعی میتواند خودش پیام یا ایمیل بفرستد؟
از نظر فنی بله، اگر دسترسی داشته باشد. سؤال اصلی این است که آن پیام چه تعهدی میسازد. اطلاعرسانی ساده را میشود بعد از یک سابقهی تمیز خودکار کرد؛ قیمت، پیشفاکتور و هر قول تجاری باید منتظر تأیید یک آدم بماند.