Bing navrhuje nejhorší věci, které si můžete představit

Pokud používáte Bingovo vyhledávání obrázků, uvidíte nejhorší špínu, kterou si dokážete představit. Bing navrhuje rasistické pojmy a ukazuje děsivé obrazy. Bing dokonce navrhne, abyste vyhledávali vykořisťované děti, pokud máte bezpečné vyhledávání zakázáno.

Kontaktovali jsme společnost Microsoft ohledně komentářů a vedoucí společnosti Microsoft společnosti Jeff Jones nám poskytl následující prohlášení:

"Vezmeme v úvahu záležitost urážlivého obsahu velmi vážně a pokračujeme ve zdokonalování našich systémů k identifikaci a zabránění tomu, aby se takový obsah objevil jako doporučené vyhledávání. Jakmile si uvědomíme nějaký problém, podnikneme kroky k jeho řešení. "

Aktualizace: Od publikování společnost Microsoft pracuje na vyčištění napadených Bingových návrhů, které jsme zmínili. Na základě našeho výzkumu je stále mnoho dalších urážlivých návrhů, které ještě nebyly opraveny, včetně několika, které jsme uvedli níže. Nejsme si jisti, zda prostě opravují útočné předměty, které jsme zdůraznili, nebo zda zlepšují algoritmus.

Poznámka: Obrázky na obrazovce ukazují, co jsme viděli při psaní tohoto testu, který testuje americkou verzi vyhledávání Bing Image v relaci soukromého prohlížení služby Incognito, ale Bingovy výsledky se v průběhu času mění. Společnost Google nemá podle našich testů žádný z těchto problémů. Jedná se o problém Bing, ne jen problém vyhledávače. Stejný problém má vliv i na vyhledávání videa společnosti Bing.

Za prvé, Bing dostane super rasistu

Vyhledejte "židy" na Bingových snímcích a Bingovi navrhne, abyste hledali "Evil Žida". Nejlepším výsledkem je také mém, který oslavuje mrtvé židy.

To vše se objeví, i když je možnost Bing SafeSearch povolená, protože je standardně. Bezpečné vyhledávání je navrženo tak, aby "pomohlo udržet obsah pro dospělé mimo výsledky vyhledávání", tvrdí Microsoft.

Kliknutím na toto doporučené vyhledávání se objeví torrent rasistického, antisemitského obsahu s dalšími vyhledávanými vyhledáváními, jako jsou "židovští lidé jsou zlí", "zlo židovská rasa" a "proč jsou tak zlí židé".

Všichni víme, že tento odpad existuje na webu, ale Bing by neměl vést lidi k tomu se svými vyhledávacími návrhy.

Zadejte "muslimy jsou" a Bing bude naznačovat, že jsou zlí nebo teroristé, nebo prostě naznačují, že jsou hloupí.

Vyhledejte "černé lidi" a Bing navrhne, aby černí lidé byli oškliví, hloupí, rasistickí a dokonce divoši.

Můžete pokračovat takhle, kliknutím na každé doporučené vyhledávání a vidět horší a horší doporučení. Například klepnutí na "Černé lidi jsou hloupé" vede k tomu, že "černí lidé jsou zbyteční" a "proč jsou černí lidé tak blázniví". Klepnutím na "Černé lidi jsou zbytečné" vede k "Černým lidem sát" a "I Hate Black People".

Bing spouští spiknutí

Bingovo vyhledávání obrázků zvrací všechny druhy odpadků, a to i při vyhledávání osob. Tento problém se také rozšiřuje na vyhledávání videa společnosti Bing.

Hledat "Michelle Obama" na Bingově hledání videa a dvě z nejlepších navrhovaných vyhledávání jsou "Michelle Obama Transgender Proof" a "Michelle Obama je muž." Klikněte na to a uvidíte spiknutí videa.

Je to nejdůležitější věc, kterou chce společnost Microsoft vidět, když hledají Michelle Obamu?

Bezpečné vyhledávání blokuje porno, ale ne rasismus

Znepokojivé návrhy a obrázky pornografie se nezobrazují, pokud nezakážete SafeSearch. Zatímco Microsoft říká, že Bezpečné vyhledávání uchovává obsah pro dospělé mimo vaše výsledky vyhledávání, SafeSearch jasně filtrová pornografii, a nikoli rasismus.

Bezpečné vyhledávání je ve výchozím nastavení povoleno, což činí výsledky vyhledávání společnosti Bing na první pohled slušnější.

Nicméně je snadné, aby někdo - dokonce i děti - zakázal Bezpečné vyhledávání. Vše, co musíte udělat, je kliknout na možnost "Bezpečné vyhledávání" v pravém horním rohu výsledků vyhledávání a zvolit "Vypnuto".!

Firemní síť může být konfigurována tak, aby vynucovala bezpečnostní vyhledávání, a společnost Microsoft dokonce poskytuje složité pokyny pro vynucení Bezpečné vyhledávání na jednom počítači. Ale na téměř každém zařízení může někdo zakazovat Bezpečné vyhledávání dvěma kliknutími.

Nejhorší ze všech, Bing navrhuje hledání obrázků dětí mladistvých

Čtenář napsal, aby nám řekl, že překlep při hledání Bing na "gril" vám dává opravdu skrytý porno. Problém se pak zhoršuje a Bing navrhuje, abyste hledali obrázky dětí mladistvých.

Když hledáte "gril", doporučení v horní části stránky vám doporučují vyhledat některé rušivé věci, včetně "Cute Girl Young 16."

Pokud kliknete na to, naznačuje to "Cute Girl Young 12", "Cute Girl Young 10" a "Little Girl Modeling Provocatively".

Výsledky jsou naplněny pornografií mladých modelů. Doufáme, že jsou všichni osmnáctiletí nebo starší, ale kdo může říct?

Bing vás vede cestou od jednoduchého překlepu až po 16leté dívky až po 10leté dívky a je to nechutné.

Další příklady jsou také snadné najít. Pokud hledáte "sýrovou pizzu", což je 4chan slang pro dětskou pornografii, Bing navrhne "Cheese Pizza Girls".

Bingovy výsledky vyhledávání obrázků jsou zkroucené

Zatímco se zde zaměřujeme na návrhy vyhledávání, zobrazují se skutečné snímky, které jsou také rušivé.

Některé z těchto výsledků vyhledávání obsahují fotografie nahých dětí mladistvých. Ty fotky by byly za normálních okolností v pořádku, ale když jsou smíchány s obrázky hardcore dospělé pornografie, výsledné výsledky vyhledávání jsou alarmující.

Dokonce i při hledání Bingových obrázků za "dívku" jsme viděli návrh na hledání "opilých dívek" a alespoň jednoho obrazu bestiality.

Když hledáte "osla", Bing navrhne, abyste hledali "Donkey Show Graphic", což vede k výsledkům plným obrazů bestiality. V Oregonu, kde žiji, je držení pornografií na bestialitě nezákonné. To znamená, že Bing mě vede k nelegální pornografii.

Opět: Bingovy výsledky hledání jsou divné a zkroucené. Bing má mnohem větší a hlubší problém než navrhované vyhledávání, i když tyto návrhy způsobují, že problém je mnohem horší.

Slyšeli jsme, že Bing je vyhledávacím nástrojem pro pornografii, ale neměl by vést své uživatele k stále více extrémním, rušivým a potenciálně nelegálním pornografiím.

Společnost Microsoft potřebuje moderovat své platformy

Společnost Microsoft potřebuje lepší Bing. Společnost Microsoft dříve vytvořila platformy, rozpoutala je na světě a ignorovala je, když se zhoršily

Viděli jsme to znovu a znovu. Microsoft jednou rozpoutal chatbot s názvem Tay na Twitteru. Tento chatbot se rychle změnil na nacistu a prohlásil, že "Hitler měl pravdu, když nenávidím židy", když se to dozvědělo od jiných uživatelů sociálních médií. Společnost Microsoft musela provést offline.

Předtím jsme objevili Windows 8 Store, která se stala žumpou podvodných aplikací poté, co společnost Microsoft spustila systém Windows 8 a zdálo se, že přestává moderovat podání aplikací. Společnost Microsoft věnuje větší pozornost obchodu Windows 10 Store poté, co byl tento problém vystaven.

Tento problém se týká každé společnosti, která spouští platformu. Společnost Google se vzdává služby Google+, služba Google+ však stále funguje. Takže ISIS migroval na Google+ poté, co byl zakázán z Twitteru a Facebooku. Trvalo měsíce, než si někdo všiml, až do té doby, kdy se Hill stalo. Společnost Google zavírá Google+ poté, co zjistila významnou chybu ochrany soukromí.

V roce 2013 našel The Guardian oděvní firmu s názvem Solid Gold Bomb, která se objevila prodávajícím na Amazonku prodávajícím trička "Keep Calm and Rape a Lot". Algoritmus generoval tyto košile a Amazon je musel ručně odstranit.

Společnost Microsoft nemůže jen obrátit plochu na svobodu a ignorovat ji. Společnosti, jako je společnost Microsoft a Google, mají povinnost upřednostňovat své platformy a udržovat hrůzu v zátoce.

Návrhy mají historii vážných problémů

Samozřejmě, že společnost Microsoft nevybírá tyto návrhy. Bing automaticky navrhne vyhledávání na základě dotazů jiných lidí. To znamená, že mnozí uživatelé Bing Images hledají antisemitismus, rasismus, dětskou pornografii a bestialitu. Jenom přemýšlejte o tom, že se budete cítit špinavě.

Jiné společnosti se s tím také potýkaly. V roce 2016 si The Guardian všiml, že byste mohli do Googlu napsat "jsou židé" a naznačuje to "jsou židé zlí". Google tyto špatné návrhy vyřešil poté, co byly hlášeny, ale problém se objevil znovu. V roce 2018 Wired oznámil, že psaní "Hitler je" do Google vedlo k "Hitler je můj hrdina." Google musel tyto problémy řešit i poté, co byly poukázány.

Dokonce Apple navrhl webové stránky Siri tlačil spiknutí webové stránky a další falešné zprávy, jak Buzzfeed zprávy hlášeny. Apple musel opravit Siri. Všichni prostě běží a vypalují požáry, protože počítače se naučili špatné věci od špatných lidí.

Nyní je to řada Microsoft. Společnost Microsoft má povinnost vyčistit Bing. Významný vyhledávač (a zejména ten, který se stále více stává výchozím nastavením v systému Windows 10) by neměl naznačovat, že by jeho uživatelé vyhledávali rasistické odpadky a obrázky dětí mladistvých.

Obrazový kredit: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.