خبر

  • تک بورد - ماجراجویی متن یادگیری ماشین AI Dungeon در حال سانسور است و کاربران عصبانی هستند

    ماجراجویی متن یادگیری ماشین AI Dungeon در حال سانسور است و کاربران عصبانی هستند
    7 روز و 13 ساعت قبل

    هرگاه عموم مردم از چیزی که می تواند تغییر دهد ، چشم پوشی کنند ، سرانجام منحرف می شود. ما در گذشته این مورد را با chatbots دیده ایم. در حال حاضر ، بازی AI Dungeon نیک والتون به صورت الگوریتمی تولید پورنو kiddie… مرتب سازی بر اساس.

    وقتی نیک والتون AI Dungeon 2 را دو سال پیش ایجاد کرد ، هیچ تصوری از این نداشت که مثل قبل اوج بگیرد. چند روز پس از راه اندازی وب سایت ماجراجویی متنی برای یادگیری ماشین که هر چیزی امکان پذیر است ، او شرکت خود را تشکیل داد و نیمه شبه بازی را به عنوان برنامه های مستقل به iOS و Android منتقل کرد.

    اندکی پس از آنکه والتون استارت آپ Latitude مستقر در یوتا را تأسیس کرد ، یک جامعه مشتاق AI Dungeon تشکیل شد. تمرکز کاربران بیشتر بر استفاده از این برنامه برای ایجاد روایت های شخصی با کمک ML بود تا اینکه در واقع یک بازی انجام دهند.

    سال گذشته ، OpenAI به Latitude اجازه داد تا به مولد متن قدرتمندتر و تجاری GPT-3 خود دسترسی پیدا کند. با این حال ، اندکی پس از اجرای الگوریتم ها ، والتون خاطرنشان کرد که AI Dungeon شروع به جمع آوری داستان های مربوط به موقعیت های جنسی با کودکان کرد.

    ایده عالی ، فقط چند مشکل 1 این با نقض گسترده حریم خصوصی همراه است 2 سانسور کاملاً 3 شکسته است که او هنوز هم می گوید گه گویی پدوفیل 4 شفافیت بسیار کمی در قسمت شما وجود داشته است 5 چگونه این واقعا از هر شخص واقعی محافظت می کند

    - Sh1ptoast the Cat (@ Sh1ptoast) 1 مه 2021

    مسئله این نبود كه افراد به عمد پورنوگرافی كودكان را بنویسند (اگرچه برخی تلاش كردند) به این بازی كه هوش مصنوعی به مجموعه وسیع تری از كلمه / متن دسترسی دارد. روایت های جنسی از ابتدا بخشی از AI Dungeon بوده است - چیزی که برای چنین ماهیتی کاملاً غیر منتظره نیست. با این حال ، OpenAI وضعیت را دوست نداشت و از Latitude خواست که بلافاصله در این مورد کاری انجام دهد.

    "تصمیم گیری در مورد تعدیل محتوا در برخی موارد دشوار است ، اما این مورد دشوار است ،" مدیر عامل OpenAI سام آلتمن به سیم گفت. "این آینده هوش مصنوعی نیست که هر یک از ما بخواهیم."

    در پاسخ ، Latitude هفته گذشته ابزار تعدیل جدیدی را اجرا کرد که بحث های داغی را در جامعه AI Dungeon برانگیخت. این فیلتر کاربران را در Reddit و Twitter عصبانی کرده و در Latitude سایه افکنده است. برخی از کلمات عباراتی هستند که دیگر مجاز نیستند ، که کاربران احساس می کنند توانایی ایجاد آنها را با مشکل مواجه می کنند. به عنوان مثال ، وارد کردن چیزی مانند "" من لپ تاپ 8 ساله خود را روشن می کنم "اکنون سانسور می شود.

    آیا این بدان معنی است که شما داستان های خصوصی به اشتراک گذاشته نشده را می خوانید؟ pic.twitter.com/1Sv0KQ50r8

    - emecho





خبرهای دیگر از فرهنگ فناوری