W ostatnich latach szeptem (a czasem i na głos) w branży IT mówi się o rewolucji, jaką przynosi zastosowanie sztucznej inteligencji (AI) w oprogramowaniu. Okazuje się, że za furtką innowacji czai się niebezpieczeństwo. Według raportu Capgemini, aż 63% programistów korzysta z narzędzi AI, które nie zostały zatwierdzone przez ich pracodawców. Ale jakie ryzyka niosą za sobą te „samozwańcze” działania?
Nieautoryzowane narzędzia AI – cicha woda IT
Pracownicy branży oprogramowania, korzystający na własną rękę z narzędzi AI, narażają swoje organizacje na szereg ryzyk. Marek Matczak, CTO w Software Center Capgemini Polska, podkreśla, że główne obawy to kwestie prawne, poprawność generowanych danych oraz cyberbezpieczeństwo. Problem leży nie tylko w potencjalnych lukach prawnych czy błędach w kodzie, ale również w ryzyku cyberataków wynikającym z niewłaściwego zarządzania danymi i narzędziami.
GenAI a odpowiedzialność organizacji
Z jednej strony generatywna AI może zrewolucjonizować proces tworzenia oprogramowania, z drugiej – wymaga odpowiedniej dawki ostrożności. Jak zauważa Matczak, niezbędne jest, aby firmy wprowadziły jasne wytyczne dotyczące używania narzędzi AI. Niezbędne są też regularne szkolenia oraz monitoring użycia narzędzi, żeby przechytrzyć potencjalne zagrożenia. Zdaniem ekspertów, kluczem do skutecznego zarządzania narzędziami AI jest oświecona kultura organizacyjna, która promuje odpowiedzialne korzystanie z technologii.
Praktyczne kroki ku bezpiecznemu GenAI
Capgemini sugeruje kilka rozwiązań: od ustanowienia przejrzystych zasad, przez dedykowane programy szkoleniowe, po zaawansowane systemy monitorowania. Nie można również bagatelizować znaczenia audytów czy ocen ryzyka. Wszystko to ma na celu nie tylko ochronę przed potencjalnymi zagrożeniami, ale także zapewnienie, że generatywna AI jest wykorzystywana w najbardziej efektywny sposób.
Samokształcenie vs. wspieranie rozwoju przez organizację
Interesujące jest to, że większość programistów samodzielnie się szkoli w obszarze GenAI. Tylko 40% z nich korzysta ze wsparcia oferowanego przez pracodawcę. Tutaj pojawia się pytanie: czy organizacje robią wystarczająco dużo, aby ich pracownicy mogli bezpiecznie i skutecznie korzystać z potencjału AI? Niezbędne jest tworzenie szerokiej oferty szkoleniowej, która umożliwi specjalistom nie tylko rozwój, ale także naukę o bezpiecznym wykorzystywaniu narzędzi AI.
Wniosek?
Rewolucja generatywnej AI w branży oprogramowania jest faktem. Jednak, jak każda rewolucja, niesie za sobą nie tylko korzyści, ale i wyzwania. Dlatego tak ważne jest odpowiedzialne podejście do wprowadzania nowych technologii – zarówno ze strony pracowników, jak i organizacji. Only time will tell, jak zmieni się krajobraz IT pod wpływem AI, ale jedno jest pewne – bezpieczeństwo i odpowiedzialność to filary, na których powinna opierać się ta zmiana.
