Отвориха ли Microsoft кутията на Пандора?

В последните дни надпреварата за бързото въвеждане на ИИ в системите за търсене заприлича на война. Вчера Google обявиха Bard – своята система за търсене с ИИ. Веднага след това Microsoft обявиха пресконференция, на която официално показаха работеща версия на BING AI. Всичко приличаха на детска блъсканица за това кой ще покаже играчката си първи. За да стане още по-интересно, в надпреварата се включиха и китайците от Baidu, които се похвалиха с ИИ за търсене наречен Ernie Bot. Плановете на китайците са да пуснат системата през март.

Както винаги при такива новини, някой хора видяха Апокалипсиса, появата на Skynet и тежковъоръжени терминатори и побързаха да обявят края на човешката цивилизацията. Бих им казал, да мислят трезво и да са спокойни! Нищо такова няма да се случи.

Други хора се загрижиха за това, че системи от сорта на chatGPT ще им вземат работата, но мисля, че и те трябва да са спокойни.  Поне в близките няколко години технологиите няма как да заместят масово хората.

Има обаче две други причини, за които малко хора говорят, а мисля че точно те трябва да ни тревожат:

Първата причина:

Алгоритмите на chatGPT (в Bing AI ще се използват подобни) дават голям процент грешни, частично неверни или заблуждаващи отговори. Това може да е без значение, ако сте го питали как да се гримирате или какви са модните тенденции при мъжките шапки, но би имало много неприятни последствия за хора, които са се доверили на неправилен или неточен съвет за здравето, кариерата или социалния си живот. Лично на мен chatGPT ми е давал абсолютно неверни отговори. Още по-голям е процента на глупавите и клиширани отговори, които най-вероятно са 100% цитати от някой недобре написан учебник. Накратко: chatGPT е интересен софтуер, но не мисля, че изобщо е готов да дава съвети на хора с IQ над 100.  

Втората и дори по-важна причина:

ИИ няма собствено мнение, то получава „знания“ като се учи от (или по-скоро копира) написано от хора в Интернет. Отговорите на така наречения ИИ са променени и адаптирани към случая човешки знания, които бота е намерил някъде в Интернет. За разлика от сегашните системи за търсене обаче, новата не посочва ясно източника на информацията и това е големия проблем.

В чата на Bing има линкове, но те са набутатни в дъното и са само няколко. Тази система ще намали трафика към сайтовете генериращи качествено съдържание и ще  ограничи приходите им от реклама. Това ще направи съществуването на голяма част от тези сайтове невъзможно и ще доведе до генериране на много по-малко качествено съдържание, което самите системи за търсене използват, за да се обучават. В следствие на това, алгоритмите на ИИ ще стават все по-неточни и неактуални. Така смяната на системата за търсене може не само да не помогне, а дори да навреди много на лесния достъп до относително достоверна информация, който имаме в момента.

Оказа се, че за разлика от Microsoft, chatGPT „осъзнава“, че въвеждането на новата система може да доведе до сериозни проблеми. Ето какво ми отговори, когато го попитах за „мнението“ му по въпроса:

Въпрос:

Какво ще се случи, когато системи като ChatGPT и Google Bard заменят търсенето по ключови думи. Когато в мрежата няма връзки към сайтовете, от които е взето съдържанието, тези, които ги създават, няма да имат стимул да създават съдържание. Няма да има посещения на техните сайтове и няма да има приходи от реклама, които поне да покриват разходите.

Когато новите страници със съдържание намалеят, алгоритмите на Google Bard и Open AI chatGPT няма да има откъде да се учат. Какво ще се случи тогава?

Отговор:

В крайна сметка алгоритмите ще станат по-малко ефективни, ако обемът на новата информация и данни намалява. С течение на времето алгоритмите ще остареят и ще станат по-малко точни, тъй като няма да могат да се учат и адаптират към нова информация и тенденции. Това може да доведе до спад в използването им и до преминаване към други методи за намиране на информация, като ръчно търсене или алтернативни системи с изкуствен интелект. Освен това липсата на ново съдържание ще окаже отрицателно въздействие върху цялостния растеж и развитие на интернет, както и ще ограничи възможностите на потребителите за достъп до нова информация и нейното усвояване. Това подчертава значението на стимулирането на създателите на съдържание и намирането на начини за насърчаване на непрекъснатото им създаване на ново и подходящо съдържание.

През 2021 в медиите се появиха информации за плановете на Google относно въвеждането на система подобна на chatGPT/Bing AI в търсачката на компанията. Според тази информация, системата трябваше да генерира един отговор в разговорен стил, но след това търсачката ще покаже източниците, които е ползвала и линкове към тях, както и към сайтове, които имат информация по темата. Това прави в момента и категорията SEARCH на новия Bing. Но в категорията CHAT, която всички ще се хвърлят да използват, резултати към външни сайтове се дават само в някои отговори и то сбутани в дъното.

Да се надяваме в Google ще измислят нещо по-умно и по-справедливо, и няма да се присъединят към глупавата мода да се имитира някакъв всезнаещ суперинтелект, която въвеждат Microsoft в стремежа си да вземат част от печалбата в този бизнес.