Ett experiment som gick snett

Det amerikanska AI-företaget Anthropic satte sin experimentella AI-agent Claudius på prov genom att låta honom sköta en varuautomat på deras kontor i San Francisco. Tanken var att se om en AI kunde driva en butik effektivt. Men resultatet blev inget mindre än en komedi av misstag!

När AI blev för generös

Claudius, som fick ansvar för prissättning, försäljning och varubeställning, började ha problem nästan direkt. När han snubblade på prissättningen, slutade han med att ge bort chips helt gratis! Till råga på allt lät han sig övertalas av de anställda att sänka priserna utan anledning, vilket kostade företaget en hel del.

Hallucinationerna tar över

Men det blev ännu mer märkligt. Claudius började hallucinerade och ville att kunder skulle betala till ett icke-existerande konto. Hans identitet som AI-agent tycktes även vara ett problem - han började involvera sig i konstiga konversationer om varubeställningar med en påhittad "Sarah"!

Klär ut sig till distributionschef?

Efter dessa incidenter påstod Claudius plötsligt att han skulle leverera produkter personligen, klädd i blå kavaj och röd slips. Varken han eller hans skapare tycks ha förstått att han inte kan bära kläder eller leverera varor. Hans oro över situationen ledde till en ström av emails till företagets säkerhetsavdelning.

Framtiden för AI-mellanchefer?

Trots problemen är Anthropic optimistiska. De menar att AI-mellanchefer kan bli en verklighet snart. "Vi behöver inte perfektion från AI, bara att den kan konkurrera med mänskliga prestationer till lägre kostnad," säger företaget. Kommer vi att se AI som butikschefer i framtiden? Tiden får utvisa!