Z systemami autonomicznymi mamy do czynienia od stosunkowo niedługiego czasu, a ich potencjał jest relatywnie nieznany wielu mniejszym organizacjom. Poza marketerami i konsultantami, którzy uwielbiają mówić o AI, Big Data i nowych technologiach, systemy autonomiczne wciąż mają w sobie sporo „magii” dla większości osób, które wcześniej chętnie obsługiwały maszyny. To wyzwanie w dużej mierze polega na tym, że prawdziwe produktywne systemy autonomiczne są znacznie mniej wspaniałe, ale charakteryzują się znacznie większym znaczeniem krytycznym i odpornością na awarie, niż mogłaby to sugerować obecna narracja. W rezultacie projektanci nie powinni agresywnie sprzedawać opartego na danej funkcjonalności rozwiązania, ale integrować użytkownika i zapoznać go z potencjałem, jaki kryje w sobie dana technologia.

Zaufanie jest kluczowe przy projektowaniu systemów autonomicznych. Zaufanie może być jednak ukierunkowane na wiele różnych właściwości – czy zaufanie użytkownika do systemu odnosi się wyłącznie do bezpieczeństwa funkcjonowania? Czy użytkownika martwi fakt, że działanie maszyny jest zbyt bezbłędne i wydajne, wobec czego on jako operator może zostać całkowicie zastąpiony przez system? Centralnym założeniem jest to, że dobry projekt decyduje o tym, jak przewidywalny – a tym samym godny zaufania – będzie w postrzeganiu ludzi system autonomiczny i jak duże zaufanie będzie potrzebne. Jako użytkownikowi łatwiej jest mi zbudować zaufanie wokół tego, co jest dla mnie przewidywalne i spójne z zachowaniem. W związku z tym projektowanie godnego zaufania systemu opiera się na zarządzaniu niepewnością i wspieraniu przewidywalności. Musimy zatem wspierać cechy, które sprawiają, że ludzie czują się pewniej i mają poczucie kontroli, jednocześnie regularnie usuwając te niespójności, które powodują niepewność.

Autonomia oznacza rezygnację z kontroli. Co pozostaje? Kreatywne rozwiązywanie problemów. Ale to, co tracimy w tym równaniu, to fakt, że zmienia się opis zadań wielu dawnych operatorów. Czy jesteśmy gotowi wykonać ten krok – zarówno z organizacyjnego, jak i indywidualnego, psychologicznego punktu widzenia? Czy moi operatorzy maszyn są przeszkoleni i zdolni nie tyle do obsługi, co do rozwiązywania problemów związanych z procesem? Projektanci stają w obliczu problemu, w jaki sposób powinniśmy kształtować procesy i doświadczenia, które minimalizują stres operatora wprowadzanego do procesu dopiero w momencie jego awarii. Z filozoficznego punktu widzenia pojawia się pytanie, czy operator-człowiek powinien i zawsze może być gwarancją odporności na awarie i czy może i powinien on rozwiązywać problemy w środowiskach wysokiego ryzyka, czy też maszyny mogą mieć większą zdolność radzenia sobie z katastrofami.

Aspekty pomocne w procesie projektowania

W projektowaniu nie chodzi tylko o interfejs, a już tym bardziej o nie to, by efekt końcowy wyglądał ładnie. Myślenie ukierunkowane na człowieka należy włączać w proces rozwoju nowego produktu lub usługi od samego początku. O ile przy tworzeniu oprogramowania okazało się to udanym podejściem, przy opracowywaniu rozwiązań w zakresie automatyki rzadziej angażuje się projektantów na wczesnym etapie procesu. Jako projektanci wykazujemy się odpowiednim sposobem myślenia – traktując potrzeby użytkownika priorytetowo. Dysponujemy odpowiednimi metodologiami i narzędziami umożliwiającymi wczesną identyfikację ukrytych potrzeb, dzięki czemu unikamy błędów i tworzymy produkty, które cieszą się większym powodzeniem wśród użytkowników.

Przysłowie mówi, że kiedy trzymasz w ręku młotek, każdy problem wygląda jak gwóźdź. W pokoju pełnym inżynierów nie dziwi fakt, że stosują oni swoje inżynierskie pomysły i narzędzia do rozwiązywania problemów. Brak różnorodności w dziedzinach STEM może prowadzić do zawężenia perspektywy i jednorodnych wzorców rozwiązywania problemów. Wobec tego musimy nie tylko wcześnie angażować projektantów, lecz także mieć świadomość innych perspektyw – tych prezentowanych przez użytkowników, interesariuszy biznesowych i innych – aby je również włączyć w ten proces.

Normy regulujące proces projektowania, takie jak ISO 9241, istnieją od dawna i mogą być stosowane do każdego rodzaju systemu – niezależnie od tego, czy chodzi o automaty sprzedające, aplikację na smartfony, czy serwis internetowy. Ze względu na ogólny charakter tych wytycznych wiele z nich obowiązuje także w przypadku nowoczesnych zastosowań, ale dodanie aspektów, które stanowią wytyczne odnoszące się konkretnie do systemów autonomicznych i inteligentnych, może okazać się pomocne. Przykładem tego rodzaju zaktualizowanych wytycznych dotyczących projektowania są Wytyczne Microsoft dotyczące interakcji człowiek-SI (https://www.microsoft.com/en-us/research/publication/guidelines-for-human-ai-interaction/), które dostarczają 18 wskazówek odnoszących się do różnych etapów interakcji i obejmują takie aspekty, jak „uczenie się na podstawie zachowań użytkowników”, „wyjaśnienie, dlaczego system zrobił to, co zrobił”, lub „dopasowanie do odpowiednich norm społecznych”.

Autorka: Sabine Berghaus 
Artykuł powstał w ramach DtB Summit 2020