Nog geen week na de release verrast de Bing AI-fout gebruikers met een feitelijke mislukking. Volgens de promotiefilm van het bedrijf die vorige week werd gebruikt om het product te introduceren, genereerde de nieuwe door AI aangedreven Bing-zoekmachine van Microsoft misleidende informatie over producten en locaties en kon financiële documenten niet op de juiste manier samenvatten.
Na maanden van geruchten heeft de CEO van Microsoft, Satya Nadella, rapporten geverifieerd dat een ChatGPT-rivaliserende OpenAI-chatbot Bing zou ondersteunen. Tijdens een speciaal persevenement dat alleen toegankelijk was op het hoofdkantoor van het bedrijf in Washington, werden nieuwe functies gedemonstreerd die de belofte van Bing om de flexibiliteit en effectiviteit van het zoeken op het web te verbeteren, demonstreerden. De nieuwe zoekmachinefunctie kan momenteel op alle pc’s worden getest, maar de feitelijke fouten van de nieuwe functie baren gebruikers zorgen.
Hoe zal de Bing AI-fout de AI-race beïnvloeden?
De volgende dag van de onthulling door Google van zijn door AI aangedreven zoekmachine, waarvan u de details kunt inlezen deze link, kreeg Bard harde kritiek vanwege een feitelijke onnauwkeurigheid op de James Webb Space Telescope. Kort daarna daalde de marktkapitalisatie van Alphabet, het moederbedrijf van Google, plotseling met 9%, een verlies van meer dan $ 120 miljard, waardoor analisten en investeerders speculeerden dat Alphabet aan het verliezen was van Microsoft. We hebben het probleem verder uitgelegd in ons artikel: Bard AI fout antwoord kostte Alphabet ongeveer 120 miljard.
Eigenlijk lijken Bing van Microsoft en Bard van Google allebei even slecht. Beide bedrijven brachten ondermaatse AI-chatbots uit die tekst met foutieve informatie produceerden, maar de fouten van Microsoft duurden langer om ontdekt te worden. Nu heeft zoekmachine-expert Dmitri Brereton enkele van zijn fouten ontdekt.
Hoe erg is de Bing AI-fout?
Om te wijzen op de Bing AI-fout, bracht Brereton de bewering van Bing naar voren dat een bepaalde stofzuiger voor dierenhaar, hoewel het een handheld-apparaat is, een “korte snaarlengte van 16 voet” had en misschien te luid was. Volgens een link die informatie van de website Bing samenvatte, is de stofzuiger echter echt draadloos en stil. Daarom is de Bing AI-fout helemaal niet subtiel.
Bij een van de demonstraties faalt de Bing AI van Microsoft volkomen in een poging om een financieel rapport voor Gap-kleding voor het derde kwartaal van 2022 samen te vatten. Volgens het Gap-rapport (pdf) was de brutomarge 37,4% en de aangepaste brutomarge, exclusief bijzondere waardeverminderingen, was 38,7%. Bing geeft een onjuiste brutomarge van 37,4% na aanpassing en bijzondere waardeverminderingen.
“Bing AI kreeg sommige antwoorden helemaal verkeerd tijdens hun demo. Maar niemand merkte het op. In plaats daarvan sprong iedereen op de Bing-hypetrein”, legt Brereton uit. “De Bard van Google kreeg een fout antwoord tijdens een advertentie, wat iedereen opmerkte. Nu is het verhaal ‘Google haast zich om Bing in te halen en maakt fouten!’. Dat zou een mooi verhaal zijn als Bing tijdens zijn eigen demo geen nog ergere fouten zou maken.”
Waarom mislukte door AI aangedreven zoeken?
Hoewel gebruikers verrast en teleurgesteld zijn, is niets onverwachts aan de Bing AI-fout. De nieuwe taalmodellen van Bing en Bard zijn geneigd om tekst te creëren die vaak onwaar is. Ze verwerven een concept van het genereren van tekst door te raden welke woorden na een bepaalde reeks zinnen in een invoerquery moeten komen, zonder kennis van de enorme hoeveelheden gegevens die ze tijdens hun training hebben ingevoerd. Het wordt door experts een ‘hallucinatie’ genoemd. Hallucinatie lijkt het probleem te zijn dat zowel de feitelijke inconsistenties van Bard als de Bing AI-fout veroorzaakte.
Hoe aantrekkelijk de technologie ook lijkt, zoeken op basis van AI kan niet worden vertrouwd als Microsoft en Google de hallucinaties in hun modellen niet kunnen corrigeren. Ook al zijn chatbots eenvoudig en vermakelijk in het gebruik, wat heb je eraan als ze gebruikers geen nauwkeurige, waardevolle informatie kunnen geven? Hoewel automatisering vaak beweert dat het menselijke taken zal verlichten, zal de huidige AI ons inspanningsniveau alleen maar verhogen als we proberen fouten te minimaliseren.
Als het bedrijf er niet in slaagt de Bing AI-fout op te lossen, wordt verwacht dat het nieuws zich zal verspreiden en het vertrouwen in de door AI aangedreven zoekmachines nog verder zal verminderen. De hype lijkt hoog, maar het niet waarmaken van de hype leidt alleen maar tot teleurstelling, zoals bij zowel Bard als Bing AI het geval is.
Source: Vroege Bing AI-fout verrast gebruikers