W obliczu dynamicznego rozwoju sztucznej inteligencji, kanadyjski naukowiec Yoshua Bengio, uznawany za jednego z "ojców chrzestnych AI", wystosował dramatyczne ostrzeżenie. "Cała sztuczna inteligencja dla nauki i medycyny, wszystkie rzeczy, które są dla nas ważne, nie są agentowe. Możemy budować potężniejsze systemy, które nie są agentowe" - stwierdził Bengio.

Bengio, będący w czołówce badań nad głębokim uczeniem i sieciami neuronowymi, obok Geoffreya Hintona i Yanna LeCuna podkreśla, że choć firmy dostrzegają wymierny zwrot z inwestycji w AI, to powstanie agentów sztucznej inteligencji niesie ze sobą szereg zagrożeń. Firmy, takie jak OpenAI i Google, wprowadzają na rynek narzędzia AI, które mają potencjał do wykonywania zadań, takich jak rezerwacja restauracji czy zakupy, ale Bengio ostrzega przed chaotycznym rozwojem tej technologii.

"Ludzie będą tworzyć agentów AI bez żadnego zastanowienia, w obawie, że zostaną w tyle za konkurencją" - mówi Bengio, zwracając uwagę na ryzyko, które może to stwarzać dla samych użytkowników. Proponuje, aby rozwijać systemy nieagentowe, które mogłyby służyć jako kontrola nad tymi agentami. Wspomniał o potrzebie znacznych inwestycji w rozwój bardziej wyrafinowanych narzędzi, które pozwolą monitorować i zarządzać działaniami AI.

Bengio nawołuje do wprowadzenia przepisów, które ograniczyłyby tworzenie agentów sztucznej inteligencji bez dowodu na ich bezpieczeństwo. "Moglibyśmy rozwinąć naukę o bezpiecznej i wydajnej sztucznej inteligencji, ale musimy uznać ryzyko i rozumieć jego źródła" - dodaje.

Ważne jest, aby rządy i instytucje badawcze zaczęły współpracować w celu ustanowienia ram prawnych dla rozwoju AI, co może zapobiec nieodwracalnym skutkom. Eksperci z branży twierdzą, że stworzenie globalnych standardów stosowania AI jest kluczowe, aby zminimalizować ryzyko, a jednocześnie maksymalizować potencjał tej technologii.

W ostatnich latach widzieliśmy wiele przykładów ze świata technologii, które pokazują, jak AI może przynieść korzyści, ale także wywołać kontrowersje. W miarę jak sztuczna inteligencja postępuje w szalonym tempie, konieczne staje się poszerzenie debaty na temat jej etycznych implikacji i bezpieczeństwa. W przeciwnym razie obawy Bengio mogą stać się rzeczywistością, a technologie, które miały nam służyć, mogą zagrażać naszej przyszłości.