دیوار با هوش مصنوعی به جنگ کلاهبرداران رفت؛ کاهش ۴۲ درصدی مزاحمت‌ها و ۷۹ درصدی خطر سرقت حساب

شرکت دیوار با تشکیل یک تیم تخصصی به نام «سلامت چت» و با بهره‌گیری گسترده از هوش مصنوعی، مجموعه اقداماتی را برای مقابله با مزاحمت، کلاهبرداری و محتوای نامناسب در بخش گفتگوی این پلتفرم اجرا کرده است.

این شرکت اعلام کرد که راهکارهای جدید توانسته است به شکل چشمگیری امنیت کاربران را افزایش دهد، به طوری که مزاحمت‌ها ۴۲ درصد و خطر سرقت حساب کاربری تا ۷۹ درصد کاهش یافته است.

هوش مصنوعی، نگهبان نامرئی چت دیوار

در پی افزایش گزارش‌ها از رفتارهای مخربی مانند ارسال پیام‌های آزاردهنده، تهدیدآمیز و تلاش برای سرقت حساب، تیم «سلامت چت» دیوار از آذرماه ۱۴۰۳ با تکیه بر فناوری، مسیر جدیدی را آغاز کرد. این تیم با آموزش مدل‌های زبانی هوش مصنوعی بر روی زیرساخت‌های خود، سیستمی هوشمند برای شناسایی آنی پیام‌های مزاحم ایجاد کرده است. علاوه بر این، با به‌کارگیری مدل‌های تشخیص تصویر، عکس‌های غیراخلاقی به سرعت شناسایی و تار می‌شوند و با استفاده از هوش مصنوعی مولد، از نام‌های کاربری جعلی یا مشکوک نیز جلوگیری به عمل می‌آید.

بهبود محسوس تجربه کاربری با ایزوله کردن مزاحمان

این اقدامات فنی منجر به بهبود مستقیم تجربه کاربران شده است. اکنون مکالمات مشکوک به صورت خودکار به پوشه «افراد مشکوک» منتقل می‌شوند و مواجهه کاربران با پیام‌های آزاردهنده تا ۶۸ درصد کاهش یافته است. همچنین پیام‌هایی که از سوی افراد با سابقه مزاحمت ارسال می‌شوند، با برچسب «نامربوط به معامله» مشخص می‌شوند تا از مکالمات اصلی تفکیک شوند. نمایش هشدارهای تمام‌صفحه به کاربرانی که در معرض خطر سرقت حساب قرار دارند نیز یکی دیگر از اقداماتی است که به افزایش امنیت کمک کرده است.

گام‌های بعدی: از دستیار هوشمند فروش تا سیستم امتیازدهی

هدی محمودی، مدیر تیم «سلامت چت» دیوار، اعلام کرد که برنامه‌های این تیم برای آینده فراتر از اقدامات مقابله‌ای است. او گفت: «قصد داریم دستیارهای مبتنی بر هوش مصنوعی نقش فعالی در تسهیل و موفقیت مکالمات برای رسیدن به معامله ایفا کنند؛ به‌گونه‌ای که یک دستیار فروش هوشمند بتواند بخشی از ارتباطات را برعهده گیرد.» همچنین طراحی یک «سیستم اعتبارسنجی و امتیازدهی» جدید برای کاربران در دستور کار قرار دارد تا با ترویج رفتار مثبت، سلامت بلندمدت این محیط گفتگو تضمین شود.

مطالب مرتبط

دیدگاهتان را بنویسید