آمازون هفته قبل چتبات هوش مصنوعی «آمازون Q» را برای منفعت گیریهای سازمانی معارفه کرد. اکنون این چتبات بهعلت مشکلات مربوط به دقت و نشت دادههای مهم با انتقاد کارمندان شرکت روبه رو شده است. مطابق گزارشهای حاضر، انگارً آمازون Q که بهگفتن جانشین قابلمطمعنتری برای چتباتهای متمرکز بر مصرفکننده معارفه شده، درحال توانایی «توهمات شدید» و افشای اطلاعات محرمانه ازجمله مکان مراکز داده AWS، ویژگیهای معارفهنشده و برنامههای تخفیفی داخلی شرکت است.
بر پایه گزارش Platformer، کارمندان آمازون در یک سند داخلی به توهمات و جوابهای نادرست آمازون Q اشاره میکنند و میگویند: «Amazon Q میتواند توهم تشکیل کند و جوابهای زیان اور یا نامناسبی اراعه دهد.» موارد اشارهشده در این سند، مثالای از مشکلات مربوط به مدلهای زبان بزرگ است که همه آنها حداقل در برخی اوقات جوابهای نادرست یا نامناسب اراعه میکنند.
یکی از مدیران AWS نیز اشاره میکند که مشکلات این چتبات بهقدری «گسترده و فاحش» است که به کارمندان هشدار داده درمورد آنها در کانالهای عمومی Slack سخن بگویید کنند.
جواب غول تجارت الکترونیک نسبت به مشکلات آمازون Q
بااینحال، آمازون ادعا میکند که هیچ مشکل امنیتی در چتبات سازمانی خود شناسایی نکرده است. سخنگوی غول تجارت الکترونیک میگوید:
آخرین مطالب
«بهجستوجو بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از همه بازخوردهایی که تا بحال دریافت کردهایم سپاس میکنیم و در مسیر تبدیل Q از محصولی در مرحله پیشنمایش به یک محصول عمومی، به بهینهسازی آن ادامه خواهیم داد.»
آمازون Q بهگفتن یک نسخه سازمانی از ChatGPT معارفه شده است و در زمان معارفه آن حرف های شد که بهطوری طراحی شده است که نسبت به دیگر ابزارهای شبیه خود ایمنتر باشد. بااینحال، اسناد داخلی این شرکت خطر اراعه اطلاعات نادرست یا زیان اور توسط Q را مشخص می کند. این چتبات برای پشتیبانی به کارمندان در عرصههایی ازجمله نوشتن ایمیل، خلاصهکردن گزارشها، عیبیابی، تحقیق و کدنویسی ساخته شده است.
منبع
