Niedawno firma Progress przedstawiła wyniki badania, które rzucają światło na dość zaskakujący trend. Otóż aż 66 proc. przedsiębiorstw planuje włączyć sztuczną inteligencję (AI) do swoich procesów decyzyjnych. Co za tym idzie, wszyscy mamy się czego obawiać? Chodzi o coś, co nazywa się tendencyjnością danych, czyli, mówiąc prosto, o ryzyko, że AI może nas zawieść. Czy firma, w której robot zamiast człowieka decyduje kto dostanie pracę, brzmi przerażająco? No właśnie.
Na czym polega problem tendencyjności danych?
Wyobraź sobie sytuację, w której algorytm rekrutacyjny preferuje mężczyzn w branży tech, pomijając równie kwalifikowane kandydatki. To nie scenariusz z dystopijnego filmu, ale rzeczywistość, z którą już się zetknęliśmy. Tendencyjne dane mogą wynikać z wielu źródeł, ale jednym z głównych jest brak różnorodności w zespołach projektujących modele AI. Tu pojawia się Harvard Business Review, wskazując, że te zespoły nie tylko są jednorodne kulturowo, ale też składają się głównie z mężczyzn. Czy to oznacza, że algorytmy AI są skazane na stronniczość?
Świadomość firm rośnie – czy jest wystarczająca?
Z badania Progress wynika, że 78 proc. przedsiębiorczości jest świadomych, iż tendencyjność danych to problem, który będzie narastał wraz ze wzrostem zależności od AI. Jednakże tylko garstka z nich podjęła kroki mające na celu minimalizowanie tego ryzyka. Brzmi niepokojąco? Powinno, ponieważ niedziałanie może kosztować firmę więcej niż tylko złe PR.
Jak przeciwdziałać stronniczości?
Rozwiązanie problemu tendencyjności danych wymaga działania na wielu frontach. Ważne jest zróżnicowanie zespołów pracujących nad AI, prowadzenie szkoleń dotyczących zarządzania zbiorami danych oraz regularne sprawdzanie danych pod kątem stronniczości. Działania te mogą wydawać się żmudne, ale są kluczowe dla zapewnienia sprawiedliwości i inkluzywności decyzji podejmowanych przez AI.
Czy zmierzenie się z problemem tendencyjności danych jest trudne? Tak, ale równocześnie niezbędne. Świat, w którym algorytmy są sprawiedliwe i obiektywne, jest w zasięgu ręki. Wystarczy trochę determinacji i chęci, aby ten cel osiągnąć. Pamiętajmy, że w świecie technologii, tak jak w życiu, sprawiedliwość powinna być priorytetem.
