Facebook създаде чатбот, който сам се научи да лъже

Facebook създаде чатбот, който сам се научи да лъже

Чатботовете по принцип са доста полезни и могат да ви помогнат да си поръчате пица или да платите сметките например. Въпреки това, повечето подобни алгоритми са доста ограничени в нещата, които могат да правят. Днес обаче, Facebook обяви, че е създала много по-способен бот, който може да преговаря, да използва различни стратегии и да планира думите си преди да ги напише. От доста време учените се опитват да накарат компютрите да разбират човешките разговори, но до този момент тази задача остава сравнително сложна. За да могат ботовете да разговарят адекватно, те имат нужда от огромна база информация, а също така и способност много бързо да се адаптират. Учените от Изследователския център по изкуствен интелект на Facebook (FAIR) са разработили нова техника, която позволява на чатбота да се справя с един специфичен аспект от човешкия диалог – преговорите.

За да постигне това, екипът на FAIR е захранил невронна мрежа с примерни диалози между двама души, в които те са разговаряли за различни предмети и тяхната стойност. След това хората са обсъдили как да разделят предметите помежду си. Изследователите са дали задача на изкуствения интелект да имитира диалога на хората, но те не са се ограничили само с това. В невронната мрежа бил включен алгоритъм, който и позволявал да се учи така, че да постигне определени цели. Чатботът бил тестван в диалог с реални хора и по-голямата част от тях не осъзнали, че говорят с компютърен алгоритъм.

negotiate[3][5]

Всичко това било възможно благодарение на нещо, което учените наричат „диалогово планиране“. Практически, ботът разиграва потенциален разговор много бързо и симулира всички възможни разклонения до самия край на разговора. Диалоговото планиране довело до интересен резултат – в някои случаи ботът демонстрирал привиден интерес към обекти, които реално нямали стойност за него, за да ги „жертва“ за по-ценни такива. „Това поведение не беше предварително програмирано от учените, а бе открито от чатбота като метод да постигне целите си“, пише Facebook в официално изявление. Казано по-просто, алгоритъмът се е научил да лъже, за да извлече максимална изгода. Точно като някои хора.

Това е голяма стъпка в развитието на изкуствения интелект. Facebook виждат приложение на подобни алгоритми в дигиталните лични асистенти от рода на Siri и Alexa. Днес компанията ще публикува изследванията си, както и целия код на бота, за да помогне на други учени в развитието на AI. Има ли човечеството нужда от компютърни асистенти, които сами се учат да лъжат? Предстои да разберем.

Източник:

Няма коментари

Няма коментари

Все още няма коментари, можете да напишете първия.

Вашият коментар

Само регистрираните потребители могат да коментират.