W świecie technologii coraz częściej mówi się nie tylko o możliwościach sztucznej inteligencji, ale przede wszystkim o tym, kto i w jaki sposób sprawuje nad nią nadzór. Anthropic, twórca modelu Claude, pozycjonuje się jako firma stawiająca bezpieczeństwo na pierwszym miejscu. Jednak eksperci zwracają uwagę, że nawet najbardziej szlachetne deklaracje nie zastąpią solidnych mechanizmów korporacyjnych.
Problem koncentracji władzy w gigantach AI
Tradycyjny model zarządzania, w którym założyciel lub charyzmatyczny dyrektor generalny posiada niemal nieograniczoną władzę, staje się ryzykowny w obliczu rozwoju technologii o tak ogromnym wpływie na ludzkość. Inwestorzy zaczynają dostrzegać, że sukces finansowy i innowacyjność to tylko jedna strona medalu. Druga to odpowiedzialność za systemy, które mogą zmienić fundamenty funkcjonowania społeczeństwa.
Governance jako tarcza przed kryzysem
Sprawnie działający zarząd i przejrzyste struktury decyzyjne pełnią rolę hamulców bezpieczeństwa. W przypadku Anthropic wyzwaniem jest utrzymanie balansu między szybkim rozwojem technologicznym a koniecznością wprowadzania realnych ograniczeń. Nils Pratley w swojej analizie podkreśla, że w świecie wielkich technologii sposób zarządzania firmą jest często równie istotny, co sam kod źródłowy modelu.
Kwestia ta staje się kluczowa w momentach kryzysowych, gdy presja na wyniki finansowe ściera się z misją etycznego rozwoju AI. Brak odpowiednich mechanizmów kontrolnych wewnątrz struktur korporacyjnych może prowadzić do sytuacji, w której interesy udziałowców przeważą nad bezpieczeństwem użytkowników.
Źródło: The Guardian
Zdjęcie: The $1.4tn blockbuster listing of Anthropic, the Claude AI developer, is happening this week. Photograph: Contributor/VCG/Getty Images, źródło: theguardian.com


Dlaczego usługi Microsoftu przestały działać? Gigant ujawnia przyczynę awarii
Jensen Huang nie wróci na fotel CEO Nvidii. Zarząd ucina spekulacje
Awarie usług Apple i Google. Użytkownicy na całym świecie zgłaszają problemy
Dlaczego kładzenie laptopa na kanapie to zły pomysł? Eksperci ostrzegają przed awariami
Jensen Huang w pułapce własnego sukcesu: fala deepfake’ów uderza w szefa Nvidii
Ministerstwo Cyfryzacji otwiera konsultacje. Twój głos ma znaczenie dla bezpieczeństwa w sieci 