با افزایش روند یکپارچهسازی چتباتهای مبتنی بر هوش مصنوعی در محصولات نرمافزاری، نگرانیها درباره خطرات بالقوه ایجاد شده است.
بعضی از شرکتها مجاز به راهاندازی اینگونه محصولات در پلتفرمهای خود هستند، اما کسانی که از فروشگاههای نرمافزاری شخصثالث استفاده میکنند ممکن است با مشکلات مواجه شوند.
این پنجشنبه، اپل ادغام ChatGPT از OpenAI را در یک برنامه ایمیل به نام BlueMail مسدود کرد و تأخیر تأیید بهروزرسانی را که ویژگی های قدرتمند هوش مصنوعی را در ایمیل آن معرفی می کند، تجربه کرد.
چرا اپل چتجیپیتا مسدود کرده است؟
این قابلیت برای کمک به کاربران در نوشتن ایمیلها طراحی شده است که با برداشتن متن از ایمیلهای گذشته برای نوشتن ایمیلهای جدید کمک می کند، اما نگرانیهایی درباره امکان تولید محتوای نامناسب برای کودکان وجود دارد.
اپل در پاسخ به نگرانی های مرتبط با توانایی این برنامه برای ارائه محتوای نامناسب به کودکان، از بلومیل خواسته است که سنبندی خود را اصلاح و یا فیلترینگ محتوا را پیاده کند.
مدیر عامل بلومیل از تصمیم اپل نقد میکند
مدیر عامل و بنیانگذار شرکت Blix، بن ولاک ، تصمیم اپل را نقد کرده و می گوید که این تصمیم نسبت به BlueMail نابرابر و تبعیض آمیز است.
در یک مصاحبه با WSJ او درخواست را "ناعادلانه" خواند، و به یادآوری کرد که برنامه های مشابهی که توانایی های هوش مصنوعی دارند وجود دارند که بدون چنین محدودیت هایی در App Store قرار گرفته اند.
تصمیم شرکت اپل برای مسدود کردن بروزرسانی بلومیل، سوالاتی درباره سیاستهای این شرکت درباره برنامههای مبتنی بر هوش مصنوعی و تأثیرات بالقوه آنها بر دسترسی آنها در فروشگاه اپل به وجود آورده است.
برخورد بین بلومیل (BlueMail) و اپل (Apple) از مسدود شدن اخیر یکپارچگی چت (ChatGPT) برنامه فراتر میرود. در واقع، بلیکس (Blix)، توسعهدهنده بلومیل، یک رشته از برخوردهای با اپل داشته است. بلیکس، یکی از اعضای بنیادگذار کنفدراسیون برای عدالت برنامه ای (Coalition for App Fairness) بود که برای چالش عمولاتی که اپل از فروشگاه برنامه خود کسر میکند، تشکیل شده است. علاوه بر این، بلیکس در گذشته چندین دعوای ضد تراست علیه اپل را به دنبال داشته است.
بلومیل همچنین با مشکلاتی در به دست آوردن موفقیت در App Store مواجه شده است. در سال 2019، برنامه به دلیل نقض دستورالعمل های مربوط به امنیت داده ها از فروشگاه برداشته شد. اگرچه برنامه چند روز بعد بازگردانده شد، اما بلیکس شکایتی علیه اپل مطرح کرد و ادعا کرد که ژایر تکنولوژی از طریق کاهش رتبه بلومیل در نتایج جستجو و لیست ها، رقابت را بهبود نمی بخشد.
مسدودسازی اخیر اپل از ارتباط BlueMail با ChatGPT، آخرین قسمت درگیری بین دو شرکت است. هنوز دیده نشده که شکایات Blix توسط اپل رسیدگی شده یا درگیری به سطح بیشتری افزایش یابد.
کلمهی نهایی
این حادثه نکات چالشبرانگیز و مخاطراتی را که با ادغام چتباتها و مدلهای زبانی مبتنی بر هوش مصنوعی در برنامهها مرتبط است بیشتر مشخص میکند.
اگرچه این فناوریها قابلیت بهبود تجربه کاربران و افزایش کارایی را دارند، باید به دقت طراحی و نظارت شوند تا اطمینان حاصل شود که محتوای نامناسب یا مضری تولید نمیشود.
در حالی که شرکتها ادامه میدهند که هوش مصنوعی را در محصولات خود ترکیب کنند، باید آماده باشند تا به این نگرانیها پاسخ دهند و به طور نزدیک با نظارت کنندگان و ارائه دهندگان پلتفرم ها همکاری مزید کنند تا بر اساس استانداردهای ایمنی و محتوا شرایط را اطمینان دهند.