AI automatyzuje i przyspiesza pracę nad wieloma produktami. Wielu z nas zastanawia się, czy źródła, z których korzysta, są autentyczne oraz czy nie dostarczają nieco zbyt powierzchownej wiedzy. Już teraz wiemy, iż etyka w technologii będzie jednym z kluczowych wymagań prawnych i organizacyjnych przy tworzeniu szeroko i wąsko stosowanych rozwiązań. W tym artykule poruszę właśnie temat etyki w technologii.
W obliczu szybkiego rozwoju technologii i dużego wyboru narzędzi budowanie firmy czy działu IT wymaga umiejętności tworzenia skutecznych zespołów eksperckich, zarządzania coraz bardziej skomplikowaną infrastrukturą oraz mądrego rozeznania w trendach w branży IT.
Jesteśmy na takim etapie, gdzie granica pomiędzy tym, co stworzone przez człowieka, a tym stworzonym przez narzędzia AI, jest nieoczywista. Mamy przykłady generowania artykułów, grafik, obrazów, filmów czy treści reklamowych. Coraz częściej pojawiają się pytania o to, jak działają algorytmy, czy używają tzw. ethical frameworks (ramy etyczne) oraz jak powinny wyglądać kwestie odpowiedzialności za treści czy jakość produktu, w tym praw autorskich i prywatności. Firmy, uczelnie i fundacje opracowują różnego rodzaju regulacje, jednak wciąż brakuje im standaryzacji rozwiązań i jednolitego podejścia.
14.06.2023 r. Parlament Europejski przyjął akt o sztucznej inteligencji, czyli tzw. AI Act. W ten sposób PE chce uregulować stosowanie sztucznej inteligencji. To pierwszy tego typu dokument na świecie, który rozszerza listę zakazów zastosowania sztucznej inteligencji, np. do biometrycznej identyfikacji i kategoryzacji osób, predykcji kryminalnej czy rozpoznawania emocji. Przyznaje także większe prawa i ochronę osób, które zostaną dotknięte przez decyzje systemów AI. Pojawia się też element bezpieczeństwa dotyczący modelu językowego – ChatGPT. Chodzi o to, aby nie pozwalał na generowanie treści objętych prawem autorskim oraz o nielegalnym charakterze.
Warto zaznaczyć, iż zmienia się również konsument, dla którego tematy etyki czy odpowiedzialności za środowisko są bardzo istotne, wręcz kluczowe. XXI wiek należy do przedstawicieli dwóch pokoleń: (późnego) Z i Alfa (Alpha), określanych też jako Always on („zawsze podłączeni”) lub Net Gen („pokolenie sieci”), Google Kids („dzieci Google’a”) i Digital Natives („cyfrowi tubylcy”), wychowanych we wszechobecności technologii, z chęcią zmieniania świata na lepsze oraz odczuwających euforia ze współpracy z innymi ludźmi.
Mówiąc o technologii i trendach, należy spojrzeć także na szczególnie promowane w obecnych czasach wartości, takie jak:
- współpraca zamiast rywalizacji,
- łączenie zamiast dzielenia.
Jest to dziś szczególnie trudne, gdyż technologia doprowadziła do powstania baniek informacyjnych, polaryzacji poglądów, podziałów na „my” i „oni” oraz coraz większej walki o uwagę poprzez wywoływanie skrajnych emocji, przekładających się na klikalność i zyski. Rozumienie, refleksja oraz wgląd w to, co naprawdę jest źródłem problemu, a nie tylko symptomem choroby, to warunki konieczne do zmiany i poprawy jakości technologii oraz jej bezpieczeństwa zarówno dla zaawansowanego, jak i początkującego użytkownika.
Piętami achillesowymi małych, średnich i dużych firm są kooperacja oraz sprawne realizacje procesów IT. Przeszkodą w tym temacie jest rozumienie zmiany w technologii jako zmiany struktury organizacji, a nie okazji na poprawę jakości i efektywności procesów, a przede wszystkim na usprawnienie współpracy pomiędzy zespołami.
Sztuczna inteligencja, bezpieczeństwo i zarządzanie a kooperacja – jak to połączyć? Na czym się skupić? Jednym z klasycznych punktów orientacyjnych dla branży IT są raporty Gartnera, a dokładnie 10 najważniejszych trendów technologicznych. Wyzwaniem dla zarządzających jest to, jaką nową formę doskonałości operacyjnej wybrać i na jakie technologie postawić, by optymalizować procesy, skalować rozwiązania i dostarczać produkty na czas.
Raport Gartnera wskazuje również na to, iż w pierwszej trójce priorytetów inwestorów, tuż po zysku i przychodach, znajduje się = wpływ na środowisko i społeczeństwo. W praktyce ma to się przełożyć na większe inwestowanie w rozwiązania mające wywierać pozytywny wpływ na otoczenie.
Gartner mówi, iż 10 najważniejszych trendów technologicznych na 2023 rok to:
- Cyfrowy system immunologiczny (Digital Immune System – DIS)
- Zastosowana obserwowalność (Applied Observability)
- Zarządzanie zaufaniem, ryzykiem i bezpieczeństwem sztucznej inteligencji (AI Trust, Risk, and Security Management – AI TRiSM)
- Branżowe platformy chmurowe (Industry Cloud Platforms)
- Platformy inżynieryjne (Platform Engineering)
- Integracja technologii bezprzewodowych (Wireless-Value Realization)
- Superaplikacje (Superapps)
- Adaptacyjna sztuczna inteligencja: Adaptive AI
- Metaverse
- Zrównoważony rozwój (Sustainability)
Jak widać, obejmują one wiele form łączności bezprzewodowej, monitoring, bezpieczeństwo, sztuczną inteligencję i zintegrowane platformy. Szczególnie ważne będą wyzwania związane z cyfrowym systemem immunologicznym, który obejmuje decyzje i operacje oparte na danych, zautomatyzowanie procesów IT, testowanie oraz rozwój systemu na podstawie bezpieczeństwa i stabilności systemów.
Co w tym wszystkim najważniejsze? Odpowiem, iż bezpieczeństwo, jakość danych, współpraca, etyka i sprawność operacyjna, aby sprostać wyzwaniom w świecie VUCA, czyli Volatility (zmienność), Uncertainty (niepewność), Complexity (złożoność) and Ambiguity (niejednoznaczność) oraz budowanie własnej odporności organizacji w oparciu o powyższe elementy, ale też odpowiedzialność społeczna i środowiskowa. Przy jakiejkolwiek zmianie w organizacji warto zadać sobie pytania z poniższych obszarów:
- Bezpieczeństwo danych i zarządzanie bezpieczeństwem w firmie – co to znaczy, iż dane są odpowiednio przechowywane, zabezpieczane i wykorzystywane? Szyfrowanie, autoryzacja, uwierzytelnienia, defense in depth, data discovery, disaster recovery w połączeniu z regularnym audytem, podnoszenie umiejętności i świadomości o bezpieczeństwie czy przestrzeganie standardów mogą zwiększyć odporność na atak lub pomóc go zminimalizować.
- Monitoring i dane – jakie dane są pobierane i transferowane? Skąd są zbierane (infrastruktura, aplikacje, operacje firmy itd.)? Jak można zapobiegać, zamiast później leczyć objawy choroby? Jak wykorzystać AI do informacji zwrotnej w czasie rzeczywistym, aby na bieżąco aktualizować swoją wiedzę i umiejętności oraz dostosowywać cele?
- Jakość danych i etyka – deep fake oraz AI – czym jest single source of truth? Czy będą certyfikowane źródła danych? Jak działają algorytmy? Jakich ram etycznych używają? Czy informacja jest prawdziwa i rzetelna? Jaki jest jej cel? Czy uzyskane dane są pierwotne czy wtórne? Jaka jest ich jakość?
- Zarządzanie IT i biznesem – jak zarządzać bezpieczeństwem w hybrydowym środowisku? Czy jesteśmy w stanie zapanować nad konfiguracją? Jak uprościć rozwiązania? Jakie platformy 4 w 1 zapewnią sprawność, innowacyjność i skrócenie czasu wprowadzania produktu na rynek? Jaki jest najdoskonalszy model operacyjny? Co jest priorytetem? Jak poprawić współpracę oraz operacje IT?
Choć ten artykuł napisałam sama, to byłam ciekawa, jakie zakończenie na temat trendów IT, cyberbezpieczeństwa oraz etyki zaproponuje ChatGPT. Oto efekt (celowo niezredagowany):
„Trendy w dziedzinie IT i cyberbezpieczeństwa odgrywają kluczową rolę w kształtowaniu naszej cyfrowej przyszłości. Jednak wraz z postępem technologicznym, ważne jest również uwzględnienie aspektów etyki, bezpieczeństwa i odpowiedzialności. Ważne jest, aby rozwijać i stosować zasady etyczne, które zapewnią, iż technologia służy dobru społeczeństwa. Dbanie o prywatność danych, unikanie dyskryminacji i zapewnienie uczciwości w algorytmach są kluczowymi aspektami etycznego stosowania technologii. W miarę jak technologia staje się bardziej zaawansowana, zagrożenia cybernetyczne także się zwiększają. Dlatego najważniejsze jest inwestowanie w odpowiednie środki bezpieczeństwa, zarówno w obszarze oprogramowania, jak i infrastruktury IT. Zabezpieczanie danych, wykrywanie incydentów i szybka reakcja na zagrożenia są niezbędne w świecie cyfrowym.
AI ma ogromny potencjał, ale wymaga również odpowiedzialnego podejścia. Konieczne jest zapewnienie transparentności i odpowiedzialności w działaniu algorytmów AI. Unikanie uprzedzeń, uczących się błędów i podejmowanie odpowiednich działań w przypadku potencjalnych konsekwencji negatywnych jest najważniejsze dla zapewnienia odpowiedzialnego rozwoju AI.
Trendy w dziedzinie IT i cyberbezpieczeństwa mają ogromne znaczenie dla naszej cyfrowej przyszłości. Jednak wraz z tymi trendami musimy pamiętać o etyce, bezpieczeństwie i odpowiedzialnym wykorzystaniu technologii. Rozwój technologiczny powinien odbywać się zgodnie z wartościami etycznymi, zapewniając bezpieczeństwo danych i uwzględniając odpowiedzialność za konsekwencje wynikające z naszych działań. Tylko w ten sposób możemy cieszyć się korzyściami płynącymi z nowych technologii, jednocześnie zachowując integralność i dobro społeczne.”
Źródła:
Zdjęcie główne pochodzi z Unsplash.com.