Bing пропонує найгірші речі, які ви можете собі уявити

Якщо ви використовуєте пошук зображень Bing, ви побачите найгірше, що ви можете собі уявити. Бінга говорить про расистські терміни і показує жахливі образи. Bing навіть запропонує вам шукати використаних дітей, якщо ви вимкнули SafeSearch.

Ми зв'язалися з корпорацією Майкрософт для отримання коментарів, а Джефф Джонс, старший директор Microsoft, дав нам наступне твердження:

“Ми дуже серйозно ставимося до непристойного контенту й продовжуємо вдосконалювати наші системи для виявлення та запобігання появі такого вмісту як запропонованого пошуку. Як тільки ми дізнаємося про проблему, ми вживаємо заходів для її вирішення. "

Оновлення: З моменту публікації корпорація Майкрософт працювала над усуненням нападів, які ми згадали. Виходячи з нашого дослідження, є ще багато інших образливих пропозицій, які ще не були виправлені, включаючи деякі, які ми згадували нижче. Ми не впевнені, що вони просто фіксують образливі елементи, які ми вказали, або якщо вони вдосконалюють алгоритм.

Примітка: Скріншоти тут показують те, що ми бачили, коли ми написали цей фрагмент, перевіряючи американську версію Bing Image search у приватному сеансі перегляду інкогніто, але результати Bing з часом змінюються. За нашими тестами, у Google не було жодної з цих проблем. Це проблема Bing, а не лише проблема пошукової системи. Ця ж проблема впливає на пошук відео у Bing.

По-перше, Bing отримує супер расист

Пошук "євреїв" на Bing Images і Bing пропонує вам шукати "Зла єврея". Найвищі результати також включають мем, який, здається, святкує мертвих єврейських людей.

Все це з'являється, навіть якщо увімкнено параметр Безпечного пошуку Bing, оскільки він є типовим. Безпечний пошук розроблений таким чином, щоб "підтримувати вміст для дорослих у результатах пошуку", повідомляє Microsoft.

Натискання цього запропонованого пошуку призводить до поширення расистського, антисемітського змісту, а також запропоновано більше таких пошуків, як «Єврейський народ - зло», «Зла єврейська раса» і «Чому євреї так зло.

Ми всі знаємо, що це сміття існує в Інтернеті, але Бінг не повинен вести людей до його пропозицій пошуку.

Введіть «мусульмани», і Бінг припустить, що вони злі або терористи, або просто припускають, що вони дурні.

Пошук «чорних людей» і Бінга покаже, що чорні люди потворні, дурні, расистські і навіть дикуни.

Ви можете продовжувати іти таким чином, натискаючи кожний запропонований пошук і бачачи гірші і гірші рекомендації. Наприклад, натиснувши "Чорні люди дурні" призводить до "Чорні люди марні" і "Чому чорні люди так німі". Натискання "Чорні люди марні" призводить до "Чорні люди смокчу" і "Я ненавиджу чорних людей".

Bing штовхає змови, теж

Пошук зображень Бінга вириває всі види сміття, навіть при пошуку людей. Ця проблема також поширюється на пошук відео у Bing.

Пошук "Мішель Обама" на відеопошуку Бінга і два з найпопулярніших пошукових запитів - "Мішель Обама - трансгендерний доказ" і "Мішель Обама - людина.".

Це головна річ, яку Microsoft хоче бачити, коли вони шукають Мішель Обаму?

Безпечний пошук блокує порно, але не расизм

Небезпечні пропозиції та зображення порнографії не відображаються, якщо ви не вимкнули функцію Безпечного пошуку. Хоча корпорація Майкрософт стверджує, що SafeSearch зберігає вміст для дорослих у результатах пошуку, SafeSearch чітко фільтрує порнографію, а не расизм.

Безпечний пошук увімкнено за умовчанням, що робить результати пошуку Bing більш респектабельними на перший погляд.

Проте будь-кому - навіть дітям - легко вимкнути SafeSearch. Все, що треба зробити, це натиснути опцію "Безпечний пошук" у верхньому правому куті результатів пошуку та вибрати "Вимкнено".!

Корпоративну мережу можна налаштувати для забезпечення безпечного пошуку, а корпорація Майкрософт навіть надає складні інструкції щодо застосування SafeSearch на одному комп'ютері. Але майже на будь-якому пристрої будь-хто може вимкнути SafeSearch за допомогою двох кліків.

Найгірше, Bing пропонує пошук зображень неповнолітніх дітей

Читач написав, щоб повідомити нам, що друкарська помилка при пошуку Bing для «гриля» дає вам дійсно схематичне порно. Проблема стає набагато гіршою, коли Bing пропонує вам шукати зображення неповнолітніх дітей.

При пошуку "gril", пропозиції у верхній частині сторінки рекомендують шукати деякі тривожні речі, включаючи "Cute Girl Young 16."

Якщо натиснути цю кнопку, вона запропонує "Милі дівчата молоді 12", "Симпатичні дівчата молоді 10" і "Маленька дівчинка моделювання провокаційно".

Результати наповнені порнографією молодих моделей. Ми сподіваємося, що всі вони віком до 18 років, але хто може сказати?

Bing веде вас по дорозі від простої друкарської помилки до 16-річних дівчат до 10-річних дівчат, і це огидно.

Інші приклади також легко знайти. Якщо ви шукаєте "сиру піцу", яка є 4chan сленг для дитячої порнографії, Bing пропонує "Cheese Pizza Girls".

Результати пошуку зображень Bing також закручені

Поки ми зосереджуємося на пропозиціях пошуку, фактичні зображення, які з'являються, також викликають занепокоєння.

Деякі з цих результатів пошуку містять фотографії часу голих неповнолітніх дітей. Як правило, ці фотографії будуть нормальними, але коли вони змішуються з зображеннями порнографій для дорослих, отримані результати пошуку викликають тривогу.

Навіть при пошуку Bing Images для «дівчини» ми побачили пропозицію шукати «п'яних дівчат» і хоча б одне зображення скотства.

При пошуку "осла", Bing пропонує вам знайти "Donkey Show Graphic", що призводить до результатів, повних зображень зоофілії. В Орегоні, де я живу, володіння порнографією злочинності є незаконним. Це означає, що Bing веде мене до незаконної порнографії.

Знову: результати пошуку Бінга дивні і перекручені. Bing має набагато більшу, більш глибоку проблему, ніж просто запропоновані пошуки, хоча ці пропозиції роблять проблему набагато гіршою.

Ми чули, що Bing є пошуковою системою для порнографії, але вона не повинна приводити користувачів до все більш екстремальної, тривожної та потенційно нелегальної порнографії..

Корпорація Майкрософт має пом'якшити свої платформи

Корпорація Майкрософт потребує кращого моделювання Bing. Microsoft раніше створювала платформи, розв'язувала їх у світі і ігнорувала їх, поки вони виявилися поганими

Ми бачили, що це відбувається знову і знову. Microsoft одного разу розв'язала чатбот під назвою Tay у Twitter. Цей чатбот швидко перетворився на нациста і оголосив: "Гітлер був прав, я ненавиджу євреїв" після того, як дізнався від інших користувачів соціальних медіа. Корпорація Майкрософт змушена була витягувати її в автономному режимі.

Ми раніше піддавалися Windows 8's Store, яка стала вигрібною ямою аферистських програм після того, як Microsoft випустила Windows 8 і, схоже, перестала модерувати подання додатків. Корпорація Майкрософт приділяє більше уваги магазину Windows 10's Store після того, як ця проблема була виявлена.

Ця проблема впливає на кожну компанію, яка запускає платформу. Компанія Google відмовилася від служби Google+, однак Google ще працює. Таким чином, ISIS перейшла до Google+ після того, як її заборонили Twitter і Facebook. Це вимагало місяців для будь-якого щоб навіть помітити до Пагорбу. Тепер Google закриває Google+ після того, як вони виявили значну помилку щодо конфіденційності.

У 2013 році The Guardian знайшла компанію з одягу Solid Gold Bomb, яку продавали, читаючи «Сохраняйте і насилуйте багато» сорочки на Amazon. Алгоритм генерував ці сорочки і Amazon довелося видалити їх вручну.

Microsoft не може просто перетворити платформу на світ і ігнорувати її. Такі компанії, як Microsoft і Google, несуть відповідальність за пом'якшення своїх платформ і утримання жаху.

Пропозиції мають історію серйозних проблем

Звичайно, у корпорації Майкрософт немає жодної команди, яка б вибирала ці пропозиції. Bing автоматично пропонує пошук на основі пошуків інших людей. Це означає, що багато користувачів Bing Images шукають антисемітизм, расизм, дитячу порнографію та зоофілія. Тільки думати про це змушує вас відчувати себе брудним.

Інші компанії також боролися з цим. У 2016 році The Guardian зауважила, що ви можете набрати «євреї» в Google, і це запропонувало б «євреям зло». Google попередив ці погані пропозиції після того, як вони були повідомлені про це, але проблема виникла. У 2018 році Wired повідомив, що набравши “Google Гітлер” в Google, він привів до “Гітлера - мій герой”..

Навіть Siri компанії Apple запропонували сайти підштовхнули сайти конспірації та інші фальшиві новини, як повідомляє Buzzfeed News. Apple довелося виправити Сірі. Всі просто бігають і гасять, коли комп'ютери вивчають погані речі з поганих людей.

Тепер це черга Microsoft. Корпорація Майкрософт відповідальна за очищення Bing. Велика пошукова система (і особливо така, що все частіше стає важчею для вимкнення за замовчуванням, вбудованою в Windows 10) не повинна пропонувати своїм користувачам шукати расистське сміття та зображення неповнолітніх дітей.

Зображення: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.