Zatímco většina generativních AI modelů dnes vyžaduje výkonný hardware, vývojář Andrew Rossignol ukázal, že i staré technologie mají co nabídnout.

Vizuálně neuvěřitelné, ale pravdivé - Rossignol rozběhl jazykový model Llama 2 na notebooku Apple PowerBook G4 z roku 2005! Tato stará mašinka má jednojádrový 1,5GHz procesor PowerPC G4 a jen 1 GB RAM.

Rossignol přenesl open-source projekt llama2.c a optimalizoval ho pro starší architekturu PowerPC pomocí technologie AltiVec.

To je speciální vektorové rozšíření, které urychluje výpočty na této archaické technice.

I když rychlost generování odpovědí není vůbec srovnatelná se současnými zařízeními, výsledky ukazují, jak daleko lze zajít s kvalitním kódem a optimalizacemi.

Na svém blogu Rossignol podrobně popsal celý složitý proces.

Vysvětlil nejen mety, kterých dosáhl, ale také problémy, které musel překonat.

Podobné experimenty jsme už mohli vidět s herními konzolemi, jako je PlayStation 3 nebo Xbox 360, nicméně fungování jazykového modelu na takto starém notebooku je skutečně fascinující počin.

Toto ukazuje, že umělá inteligence nemusí být vždy odlišena výhradně nejmodernějšími zařízeními.

A co víc, Rossignolova práce otevírá dveře novému způsobu pohledu na možnosti starých technologií v oblasti AI.

Otázka je, jaké další překvapení nám mohou starší zařízení přinést?

Možná se brzy dočkáme AI na dalších „dinosaurích“ technologiích – upozornění pro všechny tech zanícené nadšence!