هوش مصنوعی
دستیار چه کاری را حق دارد انجام دهد — و چه کسی تعیین می‌کند
«هوش مصنوعی دارد» دیگر یک تمایز نیست. پرسشی که خریدار باید بپرسد این است: این دستیار چه چیزی را می‌تواند بدون تأیید من تغییر دهد؟
۵ دقیقه مطالعه
پرسش درست، پرسش دقت نیست
بحث دربارهٔ هوش مصنوعی در نرم‌افزارهای سازمانی معمولاً حول دقت می‌چرخد: چقدر درست پاسخ میدهد؟ این پرسش مهمی است اما پرسش اول نیست.
پرسش اول این است: وقتی اشتباه می‌کند، اشتباهش تا کجا می‌رود؟ سیستمی که فقط پیشنهاد میدهد، خطایش را یک انسان می‌بیند و رد می‌کند. سیستمی که خودش اجرا می‌کند، خطایش وارد سابقه میشود.
چهار مرز
چهار چیزی که باید از هر فروشنده بپرسید
دستیار چه چیزی را می‌بیند؟
این تیزترین سؤال است و کمتر از همه پرسیده میشود. اگر دستیار با دسترسیِ کل شرکت می‌خواند، اولین بار که کارمند فروش از آن دربارهٔ حقوق‌ها بپرسد، جواب می‌گیرد. بپرسید فیلتر دسترسی داخل خودِ پرس‌وجوست یا بعد از آن اعمال میشود — چون «بعد از آن» یعنی نتایجِ آدمِ کم‌دسترسی به سطرهایی می‌رود که اجازهٔ دیدنشان را ندارد و او دست خالی می‌ماند.
چه کاری پیشنهاد است و چه کاری اجرا؟
پاسخ باید مشخص باشد و فهرست‌شدنی. اگر فروشنده نمی‌تواند بگوید دقیقاً کدام عمل‌ها بدون تأیید انجام می‌شوند، یعنی کسی این مرز را طراحی نکرده.
چه کسی این مرز را تعیین می‌کند؟
اگر مرز را فروشنده تعیین کرده و ثابت است، شما یک سیاست را می‌پذیرید نه یک ابزار را. اختیارات باید در دست مدیر فضای کاری باشد.
چه چیزی برای مدل فرستاده میشود؟
بپرسید آیا دفتری از مصرف نگه داشته میشود که خودتان بتوانید ببینید — چه متنی رفت، به کدام مدل، و چه هزینه‌ای داشت. بدون این، ادعای حریم خصوصی قابل بررسی نیست.
پاسخ ما به هر چهار
دستیار فقط چیزی را می‌بیند که خودِ پرسنده می‌بیند. پرونده، مخاطب، جلسه و رکورد همه با دسترسیِ همان کاربر فیلتر می‌شوند و این فیلتر داخلِ خودِ پرس‌وجوست؛ پس چیزی که شما اجازهٔ دیدنش را ندارید، نه در پاسخ می‌آید و نه جای یک نتیجهٔ مجاز را می‌گیرد. نوشتن هم از همان دری می‌گذرد که آدم‌ها استفاده میکنند، با دسترسیِ تأییدکننده.
دستیار پیش‌فرض پیشنهاد میدهد و اجرا نمی‌کند. اقدام‌ها پیش از انجام تأیید می‌شوند، و کنترل اختیارات دستیار (SPEC §18.5، مستقر از ۱۴۰۵/۰۵/۰۹) در دست مدیر فضای کاری است نه ما.
دفتر مصرف هوش مصنوعی هر فراخوانی را ثبت می‌کند — چه چیزی فرستاده شد و چه هزینه‌ای داشت — و در دسترس خودتان است. در استقرار داخلی، مدل زبانی هم می‌تواند داخل شبکهٔ خودتان بنشیند و آن‌وقت اصلاً چیزی بیرون نمی‌رود.
و هر پاسخی که دستیار میدهد ارجاع به منبعش را همراه دارد. این کندتر از یک پاسخ قاطع است و عمدی است: در کاری که نتیجه‌اش به مشتری تحویل میشود، پاسخ بدون منبع ارزش عملی ندارد.
پرسش‌های پرتکرار
دادهٔ ما برای آموزش مدل استفاده میشود؟
خیر. دادهٔ شما برای آموزش هیچ مدلی استفاده نمیشود. در حالت ابری، متن برای پردازش به مدل فرستاده میشود و دفتر مصرف نشان میدهد چه چیزی رفته است؛ در استقرار داخلی میتوانید مدل را هم داخل شبکهٔ خودتان بگذارید.میشود هوش مصنوعی را کامل خاموش کرد؟
بله. نسخهٔ رایگان اصلاً اعتبار هوش مصنوعی ندارد و پالس، فید و قیفِ فروش در آن کامل کار میکنند، چون اینها هیچ فراخوانی به مدل نمیزنند.
با دادهٔ واقعی خودتان امتحان کنید
نسخهٔ رایگان محدودیت زمانی ندارد. سخت‌ترین سندی که دارید را بیاورید.