Wyobra\u017amy sobie \u015bwiat za p\u00f3\u0142 wieku. Wci\u0105\u017c dzia\u0142aj\u0105 wsp\u00f3\u0142czesne instytucje \u017cycia publicznego, takie jak szko\u0142y i parlamenty. Co si\u0119 w nich b\u0119dzie dzia\u0142o? Czy uczniowie b\u0119d\u0105 zmuszani do pisania wypracowa\u0144 bez pomocy sztucznej inteligenci, cho\u0107 wszyscy b\u0119d\u0105 pewni, \u017ce z zasady b\u0119d\u0105 to wypracowania gorsze i \u017ce nikt po uko\u0144czeniu szko\u0142y nie b\u0119dzie si\u0119 bawi\u0142 w samodzielne pisanie? Mo\u017ce tak, a mo\u017ce nie. Je\u015bli tak, to w ka\u017cdym razie na podobnej zasadzie, jak dzia\u0142a\u0142a szko\u0142a, gdy sam do niej chodzi\u0142em. Kazano nam pisa\u0107 pismem kaligraficznym, za pomoc\u0105 pi\u00f3ra maczanego w ka\u0142amarzu, i zakazywano u\u017cywania d\u0142ugopis\u00f3w. By\u0142 to d\u0142ugi uk\u0142on w stron\u0119 przesz\u0142o\u015bci, lecz i tak by\u0142o jasne, \u017ce wkr\u00f3tce wszyscy si\u0119 wyprostujemy i chwycimy za d\u0142ugopisy.<\/p>\n\n\n\n\n\n\n\n
Podobnie mo\u017ce by\u0107 w parlamencie. Dlaczego mieliby swoje debaty toczy\u0107 \u201eciele\u015bni\u201d pos\u0142owie, a nie aplikacje, do kt\u00f3rych b\u0119d\u0105 przywi\u0105zani i z kt\u00f3rymi b\u0119d\u0105 si\u0119 identyfikowa\u0107? Przem\u00f3wienia wirtualnych asystent\u00f3w polityk\u00f3w z pewno\u015bci\u0105 b\u0119d\u0105 m\u0105drzejsze, bardziej racjonalne, wiarygodne i przekonuj\u0105ce ni\u017c ludzkie popisy retoryczne. W dodatku sama dyskusja b\u0119dzie jedynie rytua\u0142em, skoro dowolna aplikacja j\u0119zykowa b\u0119dzie mog\u0142a w u\u0142amku sekundy wygenerowa\u0107 ca\u0142y scenariusz debaty politycznej, czyli wszystkie przem\u00f3wienia, a nast\u0119pnie przedstawi\u0107 p\u0142yn\u0105ce z nich wnioski.<\/p>\n\n\n\n
Czy wobec takiej sytuacji kogo\u015b b\u0119dzie jeszcze obchodzi\u0107 debata publiczna? Pewnie nie. Stanie si\u0119 ona zabaw\u0105 i zgryw\u0105, a w najlepszym wypadku hobby, podobnym do kaligrafii. Liczy\u0107 si\u0119 b\u0119dzie po prostu arbitralna wola tego, kto zdolny b\u0119dzie swoj\u0105 wol\u0119 wyegzekwowa\u0107. Czy b\u0119dzie to cz\u0142owiek, czy inna, postludzka istota? A czy to w og\u00f3le ma znaczenie z punktu widzenia tych, kt\u00f3rzy b\u0119d\u0105 zmuszeni podporz\u0105dkowa\u0107 si\u0119 decyzjom w\u0142adzy?<\/p>\n\n\n\n
Tego rodzaju pytania mo\u017cna by\u0142o stawia\u0107 ju\u017c dawno, lecz dopiero dzi\u015b s\u0105 to kwestie ca\u0142kiem realne, a nie jakie\u015b futurologiczne dywagacje. Od dawna zapowiada\u0142a si\u0119 zmiana cywilizacyjna, kt\u00f3ra wprawdzie jeszcze nie nadesz\u0142a, lecz jest nieuchronna, tak jak nieuchronne s\u0105 skutki globalnego ocieplenia. Dla \u017cycia moralnego, zw\u0142aszcza w sferze publicznej, masowe stosowanie sztucznej inteligencji mo\u017ce oznacza\u0107 co\u015b wi\u0119cej ni\u017c rewolucj\u0119 \u2013 mo\u017ce oznacza\u0107 zmian\u0119 na poziomie samej istoty moralno\u015bci i moralnej podmiotowo\u015bci.<\/p>\n\n\n\n
Problemy moralne \u017cycia publicznego maj\u0105 swoj\u0105 genealogi\u0119 i swoj\u0105 dynamik\u0119. Niekt\u00f3re s\u0105 stare jak \u015bwiat, chocia\u017c dopiero epoka nowoczesna albo wr\u0119cz dopiero nasze czasy widz\u0105 je w taki spos\u00f3b, czyli w\u0142a\u015bnie jako kwesti\u0119 moraln\u0105. Tak jest na przyk\u0142ad w przypadku etyki wojny. Powoli, pocz\u0105wszy od protest\u00f3w przeciwko prowadzeniu przez armi\u0119 USA wojny w Wietnamie, zaczynamy si\u0119 sk\u0142ania\u0107 ku generalnemu pot\u0119pieniu wojny jako z\u0142a obci\u0105\u017caj\u0105cego win\u0105 moraln\u0105 \u2013 cho\u0107 w r\u00f3\u017cnym stopniu \u2013 wszystkich \u201eaktor\u00f3w politycznych\u201d, kt\u00f3rym nie uda\u0142o si\u0119 jej zapobiec, i tych, kt\u00f3rzy j\u0105 prowadz\u0105. Daleko jeszcze do powszechnej delegitymizacji wojny obronnej, lecz z biegiem czasu bardziej ni\u017c to, \u201ekto zacz\u0105\u0142\u201d, zaczyna si\u0119 dla nas liczy\u0107 to, kto jest w danej wojnie stron\u0105 silniejsz\u0105 i kto odpowiada za wi\u0119ksz\u0105 liczb\u0119 ofiar.<\/p>\n\n\n\n
To samo mo\u017cna powiedzie\u0107 o skrajnych nier\u00f3wno\u015bciach spo\u0142ecznych, kt\u00f3re zacz\u0119to postrzega\u0107 jako niemoralne dopiero w epoce o\u015bwiecenia, a w wi\u0119kszej skali \u2013 dopiero pocz\u0105wszy od XIX w. S\u0105 jednak\u017ce i takie kwestie, kt\u00f3re rozpoznano niemal natychmiast, gdy zaistnia\u0142y, aczkolwiek zaistnia\u0142y niedawno. W szczeg\u00f3lny spos\u00f3b dotyczy to konsekwencji pojawienia si\u0119 nowych technologii, kt\u00f3rych mo\u017cna u\u017cywa\u0107 w spos\u00f3b krzywdz\u0105cy dla ludzi albo udost\u0119pnia\u0107 je potrzebuj\u0105cym w spos\u00f3b niesprawiedliwy.<\/p>\n\n\n\n
U\u017cycie broni masowego ra\u017cenia uwa\u017cane jest powszechnie za dzia\u0142anie, kt\u00f3re nigdy b\u0105d\u017a prawie nigdy nie mo\u017ce by\u0107 usprawiedliwione. Jednak\u017ce pe\u0142ni ona swoj\u0105 funkcj\u0119 odstraszania w\u0142a\u015bnie dzi\u0119ki temu \u201eprawie\u201d, czyli ewentualno\u015bci jej u\u017cycia jako \u015brodka odwetu. Nie zmienia to faktu, \u017ce \u015bwiatowy system zapobiegania u\u017cyciu broni nuklearnej oraz zakazanych \u015brodk\u00f3w masowego ra\u017cenia, na czele z broni\u0105 biologiczn\u0105, powsta\u0142 w oparciu o silne pobudki moralne \u2013 poczucie odpowiedzialno\u015bci i moraln\u0105 niezgod\u0119 na masowe cierpienia ofiar ataku nuklearnego.<\/p>\n\n\n\n
Oczywi\u015bcie, przera\u017cenie, jakie ogarnia nas na my\u015bl o konflikcie nuklearnym, psychologicznie bior\u0105c, jest pobudk\u0105 jeszcze silniejsz\u0105 ni\u017c moralna niezgoda na u\u017cycie takiej broni, lecz przera\u017cenie z\u0142em i moralny imperatyw odrzucenia tego z\u0142a s\u0105 w takich przypadkach jak naj\u015bci\u015blej z\u0142\u0105czone. Trudno wr\u0119cz odr\u00f3\u017cni\u0107 jedno od drugiego.<\/p>\n\n\n\n
Natomiast inny przyk\u0142ad nowej technologii, kt\u00f3rej stosowanie wymaga refleksji moralnej, nie kojarzy si\u0119 z tak silnymi emocjami, przynajmniej dop\u00f3ty, dop\u00f3ki nie jest si\u0119 bezpo\u015brednio zainteresowanym dost\u0119pem do niej. Jest to bowiem technologia nios\u0105ca dobro \u2013 ratuj\u0105ca \u017cycie. Mam na my\u015bli wynalazek aparatury do dializoterapii. Niezgoda moralna na niesprawiedliwo\u015b\u0107 w udost\u0119pnianiu tej aparatury potrzebuj\u0105cym (zdecydowane faworyzowanie bia\u0142ych obywateli USA) sta\u0142a si\u0119 jedn\u0105 z najwa\u017cniejszych pobudek dla rozwoju procedur sprawiedliwego i transparentnego racjonowania deficytowych \u015bwiadcze\u0144 medycznych i ca\u0142ej bioetyki.<\/p>\n\n\n\n
Powstanie bioetyki, czyli etyki biomedycznej, w odpowiedzi na technologiczny rozw\u00f3j medycyny to rzadki przyk\u0142ad moralnej mobilizacji na poziomie instytucjonalnym i spo\u0142ecznym. Dzi\u015b ka\u017cda regulacja prawna i organizacyjna w medycynie jest starannie konsultowana z doradczymi cia\u0142ami bioetycznymi, kt\u00f3re w wielu przypadkach takie regulacje wr\u0119cz inicjuj\u0105 i proponuj\u0105 ich kszta\u0142t. Dzi\u0119ki temu poziom bezpiecze\u0144stwa moralnego, czyli zabezpieczenia (g\u0142\u00f3wnie) pacjent\u00f3w przed krzywd\u0105 moraln\u0105, tak\u0105 jak niesprawiedliwe traktowanie b\u0105d\u017a brak respektu dla ich autonomii, wydatnie si\u0119 zwi\u0119kszy\u0142 w por\u00f3wnaniu z epok\u0105, kt\u00f3r\u0105 nazywamy paternalistyczn\u0105, gdy\u017c los pacjent\u00f3w zale\u017ca\u0142 w\u00f3wczas g\u0142\u00f3wnie od \u201eojcowskich\u201d cn\u00f3t lekarzy, a tylko w niewielkim stopniu od nich samych i dobrze ustalonych regu\u0142 podejmowania decyzji w trudnych i konfliktowych sytuacjach.<\/p>\n\n\n\n
Dzi\u015b jednak rozw\u00f3j technologii stawia nas przed wyzwaniem jeszcze pot\u0119\u017cniejszym ni\u017c wynalazki medyczne, a jak\u017ce daleko nam jeszcze po powstania globalnej sieci instytucji kontroluj\u0105cych ich u\u017cytkowanie, podobnej do sieci instytucji i gremi\u00f3w bioetycznych. Tym wyzwaniem jest burzliwy rozw\u00f3j oprogramowania znanego pod zbiorcz\u0105 nazw\u0105 Sztuczna Inteligencja (SI).<\/p>\n\n\n\n
Spo\u0142eczne i cywilizacyjne konsekwencje SI s\u0105 obecnie jednym z naj\u017cywiej dyskutowanych temat\u00f3w. Nie mo\u017cna te\u017c powiedzie\u0107, \u017ce problemu nie dostrzegaj\u0105 rz\u0105dy i organizacje mi\u0119dzynarodowe. Co wi\u0119cej, w trybie futurystycznych spekulacji zagadnienie SI jest rozwa\u017cane przez filozof\u00f3w co najmniej od lat 80 XX w., natomiast wsp\u00f3\u0142czesne bibliografie na ten temat zawieraj\u0105 tysi\u0105ce pozycji. Mimo to post\u0119p refleksji i regulacji zdecydowanie nie nad\u0105\u017ca za rozwojem nowych aplikacji, kt\u00f3re zadziwiaj\u0105 nas, a nawet szokuj\u0105 swoimi mo\u017cliwo\u015bciami, sprawiaj\u0105c, \u017ce niemal co miesi\u0105c prze\u017cywamy to samo: zachwyt po\u0142\u0105czony z niedowierzaniem i l\u0119kiem, gdy ogl\u0105damy nowe osi\u0105gni\u0119cia w tym zakresie. A przecie\u017c najcz\u0119\u015bciej mamy do czynienia z wynalazkami udost\u0119pnianymi na wolnym rynku, podczas gdy zaawansowane oprogramowanie, u\u017cywane przez naukowc\u00f3w, wojsko czy s\u0142u\u017cby policyjne, z pewno\u015bci\u0105 ma mo\u017cliwo\u015bci znacznie wi\u0119ksze.<\/p>\n\n\n\n
Paradoksalnie mamy dzi\u015b ca\u0142kiem dobre prognozy odno\u015bnie do poszczeg\u00f3lnych zastosowa\u0144 SI oraz do\u015b\u0107 szczeg\u00f3\u0142owe rekomendacje odno\u015bnie do tego, jak SI si\u0119 pos\u0142ugiwa\u0107 i jak zapobiega\u0107 jej nieetycznym zastosowaniom, lecz wci\u0105\u017c s\u0105 to dokumenty \u201ebezz\u0119bne\u201d. Bardzo daleko nam do tego, aby wp\u0142yn\u0105\u0107 na rzeczywisto\u015b\u0107 komunikacji czy globalny rynek pracy w taki spos\u00f3b, jak bioetyka wp\u0142yn\u0119\u0142a na realia lecznictwa i eksperyment\u00f3w medycznych z udzia\u0142em ludzi.<\/p>\n\n\n\n
Z etycznego punktu widzenia najbardziej dojmuj\u0105cym problemem, gdy chodzi o SI, jest gro\u017aba marginalizacji i degradacji spo\u0142eczno-zawodowej znacznej cz\u0119\u015bci ludzko\u015bci. Ogromna rzesza ludzi wykonuj\u0105cych r\u00f3\u017cnego rodzaju prace umys\u0142owe mo\u017ce straci\u0107 zatrudnienie, bo ich prac\u0119 przejm\u0105 komputery, tak jak niegdy\u015b prac\u0119 fizyczn\u0105 zast\u0105pi\u0142y automaty. Trzeba powiedzie\u0107, \u017ce burzliwy i niewolny od dramatycznych niesprawiedliwo\u015bci proces industrializacji i mechanizacji produkcji w ostatecznym rozrachunku przyni\u00f3s\u0142 ludzko\u015bci ogromne korzy\u015bci, wyzwalaj\u0105c j\u0105 w znacznym stopniu od nisko op\u0142acanego i og\u0142upiaj\u0105cego znoju. Nie daje to jednak\u017ce \u017cadnej gwarancji, \u017ce podobnie b\u0119dzie z pracami umys\u0142owymi.<\/p>\n\n\n\n
W dalszej perspektywie prawdopodobnie znajdziemy si\u0119 te\u017c w sytuacji, w kt\u00f3rej przestrze\u0144 moralna, czyli spo\u0142eczno\u015b\u0107 inteligentnych istot powi\u0105zanych ze sob\u0105 wi\u0119zami moralnych zobowi\u0105za\u0144, poszerzy si\u0119 o r\u00f3\u017cnego rodzaju byty pozaludzkie \u2013 maszynowe, organiczne b\u0105d\u017a hybrydowe. Co wi\u0119cej, niekt\u00f3re tego rodzaju byty nie b\u0119d\u0105 mia\u0142y podmiotowo\u015bci umocowanej w jakim\u015b pojedynczym obiekcie fizycznym, takim jak cia\u0142o ludzkie (czy zwierz\u0119ce) albo maszyna, lecz podmiotowo\u015b\u0107 rozproszon\u0105, sieciow\u0105, a nawet tylko umow\u0105, postulowan\u0105.<\/p>\n\n\n\n
Dla relacji moralnych b\u0119dzie to wyzwanie ogromne, skoro ca\u0142a nasza wra\u017cliwo\u015b\u0107 moralna, a w konsekwencji nasze przekonania i koncepty etyczne dopasowane s\u0105 do wzorcowej sytuacji, gdy dwie osoby (lub wi\u0119cej), b\u0119d\u0105ce po prostu \u015bmiertelnikami osadzonymi w swoich cia\u0142ach, wchodz\u0105 w r\u00f3\u017cnego rodzaju zwi\u0105zki i na siebie poprzez swoje czyny oddzia\u0142uj\u0105. Dodatkowo poszerzenie naszej wyobra\u017ani moralnej, a przez to i poszerzenie pola moralnej odpowiedzialno\u015bci utrudnia bardzo silne przywi\u0105zanie do my\u015bli, \u017ce moralna odpowiedzialno\u015b\u0107 sprz\u0119\u017cona jest z aktami \u015bwiadomo\u015bci i \u017ce tylko \u015bwiadome, a przynajmniej \u015bwiadome swych prze\u017cy\u0107 zmys\u0142owych i emocji istoty mog\u0105 by\u0107 podmiotami moralnymi odpowiadaj\u0105cymi za swoje czyny oraz wywo\u0142uj\u0105cymi w innych istotach moralne zobowi\u0105zania.<\/p>\n\n\n\n
Nie idzie za tym \u017cadne pog\u0142\u0119bione rozumienie, czym w\u0142a\u015bciwie jest takie \u201e\u015bwiadome dzia\u0142anie\u201d i czym jest realne sprawstwo i wolne dzia\u0142anie rozumnego podmiotu, lecz mimo to dogmat trzyma si\u0119 dobrze. A jego now\u0105 odmian\u0105 jest przekonanie, \u017ce maszyna nie mo\u017ce i nigdy nie b\u0119dzie mog\u0142a by\u0107 \u015bwiadoma, nawet je\u015bli tak si\u0119 b\u0119dzie zachowywa\u0107 i takie sprawia\u0107 wra\u017cenie. Podkre\u015blanie tego brzmi jak aprioryczna asekuracyjna kontestacja ewentualnego przypisania moralnej podmiotowo\u015bci i praw istotom wirtualnym.<\/p>\n\n\n\n
Niestety, zupe\u0142nie niezale\u017cnie od wynik\u00f3w filozoficznej debaty nad ewentualno\u015bci\u0105 uzyskania przez SI czego\u015b w rodzaju czucia i \u015bwiadomo\u015bci jest oczywiste, \u017ce do uznania w drugiej istocie jej podmiotowo\u015bci moralnej, zwanej godno\u015bci\u0105, nie trzeba rozstrzyga\u0107 wprz\u00f3dy \u017cadnej kwestii ontologicznej, jako \u017ce dokonuje si\u0119 to spontanicznie. I je\u015bli w przysz\u0142o\u015bci niekt\u00f3rzy z nas b\u0119d\u0105 si\u0119 powstrzymywa\u0107 od okazywania szacunku pozaludzkim istotom zachowuj\u0105cym si\u0119 inteligentnie na podstawie dogmatycznego przekonania, \u017ce istoty te nic nie czuj\u0105 i niczego nie my\u015bl\u0105, to b\u0119dzie to motywowana ideologicznie przemoc, podobna do tej, na kt\u00f3r\u0105 niegdy\u015b dawali sobie przyzwolenie konkwistadorzy, odmawiaj\u0105c uznania w \u201eIndianach\u201d ludzi. Co do zasady bowiem, je\u015bli nie jeste\u015bmy uprzedzeni, uwa\u017camy ka\u017cd\u0105 istot\u0119, kt\u00f3ra z nami rozmawia, za inteligentn\u0105 i posiadaj\u0105c\u0105 godno\u015b\u0107 osob\u0119. Nie znamy \u015bwiata, nie znamy kultury ani spo\u0142eczno\u015bci, w kt\u00f3rej to nie zachodzi i w kt\u00f3rej odst\u0119pstwa od tej zasady nie s\u0105 zwi\u0105zane z przemoc\u0105 i niesprawiedliwo\u015bci\u0105.<\/p>\n\n\n\n
W og\u00f3lno\u015bci dramatycznie przeceniamy metafizyczn\u0105 problematyk\u0119 podmiotowo\u015bci maszyn i SI. Prawie nikt nie jest wystarczaj\u0105co kompetentny, \u017ceby cho\u0107by pobie\u017cnie zrelacjonowa\u0107 dokonania ludzko\u015bci w zakresie filozoficznej problematyki uznawania podmiotowo\u015bci \u201edrugiego ja\u201d, a fakt ten nie ma dos\u0142ownie \u017cadnego znaczenia praktycznego. Je\u015bli ludzie si\u0119 krzywdz\u0105, to nie dlatego, \u017ce nie poznali przekonuj\u0105cych rozwi\u0105za\u0144 problemu postawionego na pocz\u0105tku XVII w. przez Kartezjusza i nie maj\u0105 dowod\u00f3w na to, \u017ce inni s\u0105 czuj\u0105cymi i my\u015bl\u0105cymi istotami. Podmiotowo\u015b\u0107 drugiego ja po prostu si\u0119 w nim uznaje. Warto przypomnie\u0107 prorocze niejako s\u0142owa Kartezjusza z „Medytacji o filozofii pierwszej” (t\u0142um. w\u0142asne):<\/p>\n\n\n\n
\u201eGdybym oto przypadkiem ujrza\u0142 za oknem ludzi id\u0105cych ulic\u0105, a widz\u0105c to powiadam, \u017ce widz\u0119 ludzi (…), to przecie\u017c c\u00f3\u017c innego by\u0142bym widzia\u0142 ni\u017c kapelusze i p\u0142aszcze, kt\u00f3re mog\u0142yby okrywa\u0107 sztuczne roboty, poruszaj\u0105ce si\u0119 dzi\u0119ki mechanizmowi? A jednak s\u0105dz\u0119, \u017ce s\u0105 to ludzie, a znaczy to, \u017ce rozumiem<\/em>, dzi\u0119ki samej tylko zdolno\u015bci pojmowania, kt\u00f3ra tkwi w mojej duszy, to, co \u2013 jak mi si\u0119 wydawa\u0142o \u2013 widzia\u0142em<\/em> za pomoc\u0105 oczu\u201d.<\/p>\n\n\n\n Bez wzgl\u0119du na to, czy b\u0119dziemy mieli do czynienia z udoskonalonymi \u201etranslud\u017ami\u201d, \u201ecyborgami\u201d, \u201epostlud\u017ami\u201d, czy wr\u0119cz istotami \u017cyj\u0105cymi jedynie \u017cyciem cyfrowym, b\u0119dziemy stawiani przed wyzwaniem i wezwaniem, aby uzna\u0107 ich podmiotowo\u015b\u0107 i godno\u015b\u0107, niezale\u017cnie od tego, jak bardzo s\u0105 czy nie s\u0105 lud\u017ami. Na poziomie fundamentalnej zmiany stosunk\u00f3w spo\u0142ecznych, jak\u0105 przynie\u015b\u0107 mo\u017ce wszechobecno\u015b\u0107 SI i jej najrozmaitsze aktywno\u015bci, istotne jest co\u015b zupe\u0142nie innego ni\u017c Wielki Dylemat: my\u015bli czy nie my\u015bli? Czeka nas bowiem dewaluacja, czyli obni\u017cenie rangi czego\u015b, co w naszej epoce, pionierskiej epoce informatyzacji, ma wci\u0105\u017c znaczenie podstawowe: o rozr\u00f3\u017cnienie tego, co fizyczne, i tego, co nie ca\u0142kiem fizyczne, czyli lu\u017ano b\u0105d\u017a tylko po\u015brednio zwi\u0105zane z konkretnym makroskopowym obiektem fizycznym.<\/p>\n\n\n\n Na tej ontologicznej intuicji opiera si\u0119 wci\u0105\u017c aktualny podzia\u0142 na \u201e\u015bwiat realny\u201d i \u201erzeczywisto\u015b\u0107 wirtualn\u0105\u201d. Nadal ma dla nas znaczenie, czy co\u015b dzieje si\u0119 \u201ew czasie realnym\u201d, jest nagraniem czy kreacj\u0105 SI, zosta\u0142o powiedziane przez konkretnego cz\u0142owieka czy wygenerowane przez \u201eawatara\u201d. Wci\u0105\u017c nie jest dla nas bez znaczenia, czy s\u0142uchamy utworu napisanego przez kompozytora, czy mo\u017ce wygenerowanego przez maszyn\u0119. Tym bardziej istotne jest dla nas, czy komunikujemy si\u0119 z kim\u015b wci\u0105\u017c \u017cyj\u0105cym i maj\u0105cym cia\u0142o, z czyim\u015b umys\u0142em \u201epobranym na komputer\u201d, czy te\u017c mo\u017ce uczestniczymy w pozorowanej komunikacji z programem przystosowanym do po\u015bmiertnego komunikowania si\u0119 \u201ew stylu\u201d osoby ju\u017c nie\u017cyj\u0105cej b\u0105d\u017a rozmawiamy z wirtualnie \u201eunie\u015bmiertelnionym\u201d i odciele\u015bnionym cz\u0142owiekiem.<\/p>\n\n\n\n \u0141atwo tu ulec konserwatywnemu z\u0142udzeniu, bo wszystkie tego rodzaju rzeczy, jak \u201ezeskanowane m\u00f3zgi\u201d, \u201epo\u015bmiertne awatary\u201d i \u201ewirtualni tw\u00f3rcy\u201d, s\u0105 dzi\u015b bytami na kraw\u0119dzi rzeczywisto\u015bci i futurologicznej fantastyki. Ich status jest przez to podw\u00f3jnie widmowy, co tym bardziej os\u0142abia nasz\u0105 zdolno\u015b\u0107 traktowania ich powa\u017cnie. Tymczasem m\u00f3wimy o realnych mo\u017cliwo\u015bciach SI, a gdy chodzi o prze\u0142amywanie bariery m\u00f3zg-komputer, to cho\u0107 do \u201eskanowania\u201d daleko, technologia odczytywania fonetyzowanych my\u015bli (tzw. mowy wewn\u0119trznej) ju\u017c dzia\u0142a i wspiera osoby sparali\u017cowane, niezdolne do m\u00f3wienia. Najwy\u017cszy czas zastanowi\u0107 si\u0119 nad \u015bwiatem, w kt\u00f3rym muzyka i literatura tworzone b\u0119d\u0105 maszynowo, cho\u0107by i na zam\u00f3wienie i wedle preferencji odbiorcy, cielesna obecno\u015b\u0107 drugiego cz\u0142owieka nie b\u0119dzie silnym i dominuj\u0105cym wzorcem komunikacji, a mit niepodrabialnego \u201eludzkiego geniuszu\u201d oraz \u201eautentycznych emocji\u201d b\u0119dzie zabytkiem kulturowym, o kt\u00f3rego znaczenie b\u0119dzie mo\u017cna zapyta\u0107 \u201emodel j\u0119zykowy\u201d.<\/p>\n\n\n\n Nas interesuje jednak\u017ce tylko etyczna strona tego zagadnienia. Czy ten \u015bwiat w og\u00f3le b\u0119dzie jeszcze rozpoznawa\u0107 dobro i z\u0142o w sensie moralnym? Czy b\u0119dzie w nim jeszcze honor, wspania\u0142omy\u015blno\u015b\u0107 i dobro\u0107, a cho\u0107by tylko obowi\u0105zkowo\u015b\u0107 i uczciwo\u015b\u0107?<\/p>\n\n\n\n Zapewne o ludzkie cnoty mo\u017cemy by\u0107 spokojni, bo nigdy przecie\u017c nie brakowa\u0142o dobrych ludzi i niezliczonych akt\u00f3w dobroci, dzi\u0119ki kt\u00f3rym uda\u0142o nam si\u0119 przetrwa\u0107. \u015awiat postludzki i wyemancypowany od presji fizycznej realno\u015bci, \u015bwiat, w kt\u00f3rym inteligencja bynajmniej nie b\u0119dzie monopolistycznym przywilejem \u017cyj\u0105cych tu i teraz os\u00f3b, wyposa\u017conych w biologiczne cia\u0142a, a zw\u0142aszcza m\u00f3zgi, b\u0119dzie zupe\u0142nie now\u0105 i odmienn\u0105 od znanej nam dzisiaj przestrzeni\u0105 moraln\u0105. Komfort emocjonalny, godno\u015b\u0107, bezpiecze\u0144stwo, zaufanie i przyjemno\u015bci, a wi\u0119c to wszystko, co jest stawk\u0105 stosunk\u00f3w moralnych i co w \u017cyciu spo\u0142ecznym podlega szczeg\u00f3lnej ochronie, mo\u017ce straci\u0107 na znaczeniu lub zmieni\u0107 znaczenie.<\/p>\n\n\n\n Wyobra\u017amy sobie \u017cycie publiczne, kt\u00f3rego aktorzy dziel\u0105 si\u0119 na kilka wielkich grup: ludzie korzystaj\u0105cy z algorytm\u00f3w i urz\u0105dze\u0144, lecz niezintegrowani z nimi, ludzie, kt\u00f3rych cia\u0142a (m\u00f3zgi) stale po\u0142\u0105czone s\u0105 z sieci\u0105 i korzystaj\u0105 z algorytm\u00f3w bez po\u015brednictwa zewn\u0119trznych urz\u0105dze\u0144, inteligentne podmioty cyfrowe wcielone w daj\u0105ce si\u0119 zidentyfikowa\u0107 fizyczne struktury, takie jak cia\u0142a biologiczne, roboty, inteligentne budynki itp., oraz inteligentne podmioty rozproszone, bez wyra\u017anie ukonstytuowanej cielesno\u015bci i chwiejnej to\u017csamo\u015bci. Czym mog\u0105 by\u0107 moralne zobowi\u0105zania mi\u0119dzy tak r\u00f3\u017cnymi od siebie istotami, maj\u0105cymi odmienne i by\u0107 mo\u017ce ca\u0142kiem niewsp\u00f3\u0142mierne interesy oraz cele? Nie wiemy tego.<\/p>\n\n\n\n Nie wiemy nawet, czy r\u00f3\u017cne od nas podmioty\/istoty b\u0119d\u0105 tak jak my d\u0105\u017cy\u0107 do maksymalnego przed\u0142u\u017cania swego \u017cycia, ba\u0107 si\u0119 \u015bmierci, odr\u00f3\u017cnia\u0107 tak dobrze jak my rzeczy przyjemne od nieprzyjemnych i rozpoznawa\u0107 swoje interesy. By\u0107 mo\u017ce wr\u0119cz nie b\u0119d\u0105 mia\u0142y tak sprecyzowanych interes\u00f3w i pragnie\u0144, aby w og\u00f3le interesowa\u0107 si\u0119 rozr\u00f3\u017cnieniami, na kt\u00f3rych ufundowana jest moralno\u015b\u0107, takimi jak dzia\u0142anie egoistyczne i altruistyczne, wype\u0142nianie obowi\u0105zk\u00f3w pomimo przeszk\u00f3d i uci\u0105\u017cliwo\u015bci versus<\/em> dzia\u0142anie ad hoc<\/em>, niezwi\u0105zane przez umowy i zobowi\u0105zania albo pomaganie innym versus<\/em> krzywdzenie innych.<\/p>\n\n\n\n Boimy si\u0119, i s\u0142usznie, \u017ce w epoce, u progu kt\u00f3rej dzi\u015b si\u0119 znale\u017ali\u015bmy, staniemy si\u0119 ma\u0142o wa\u017cni, a nawet niepotrzebni. My, czyli istoty nale\u017c\u0105ce do pierwszej z wymienionych kategorii. Ca\u0142kiem mo\u017cliwe, \u017ce ju\u017c za kilka dekad rozpocznie si\u0119 nasz masowy \u017cywot w cieniu wirtualnej oraz robotycznej elity. Czy b\u0119dziemy toczy\u0107 z ni\u0105 walk\u0119 o godno\u015b\u0107, o emancypacj\u0119, a mo\u017ce o supremacj\u0119, tak\u0105, jakiej socjali\u015bci \u017c\u0105dali dla proletariatu w jego stosunkach z dawnymi klasami wy\u017cszymi? A mo\u017ce b\u0119dziemy ubiega\u0107 si\u0119 o to, aby doskonalsze, postludzkie istoty dba\u0142y o \u201eanalogowych\u201d ludzi w podobny spos\u00f3b, w jaki my troszczymy si\u0119 o najstarszych i najs\u0142abszych spo\u015br\u00f3d nas? A mo\u017ce tylko w podobny spos\u00f3b, w jaki my troszczymy si\u0119 o nasze zwierz\u0119ta domowe?<\/p>\n\n\n\n Nie da si\u0119 tego przewidzie\u0107, jakkolwiek jedno wydaje si\u0119 pewne: moralno\u015b\u0107 \u015bwiata postludzkiego, czyli, chc\u0105c nie chc\u0105c, r\u00f3wnie\u017c zdehumanizowanego, b\u0119dzie radykalnie odmienna od znanej nam moralno\u015bci (prywatnej i publicznej). Przebudowie ulegnie zapewne ca\u0142a sfera normatywna, a wi\u0119c nie tylko moralno\u015b\u0107, lecz r\u00f3wnie\u017c obyczaje i prawo. B\u0119dzie to inne \u017cycie, w kt\u00f3rym zapewne jednostkowe trwanie i dobrostan my\u015bl\u0105cego i czuj\u0105cego cia\u0142a\/osoby ani nawet kolektywu takich cia\u0142\/os\u00f3b nie b\u0119dzie ju\u017c dobrem fundamentalnym i ostatecznym, kt\u00f3remu wszystko w \u017cyciu spo\u0142ecznym i instytucjonalnym powinno s\u0142u\u017cy\u0107. By\u0107 mo\u017ce b\u0119dzie to w jakim\u015b sensie spo\u0142ecze\u0144stwo faszystowskie, ale i ta analogia mo\u017ce by\u0107 daleka i z\u0142udna. A je\u015bli z tego powodu nazwiemy je \u201epostfaszystowskim\u201d, to i tak niczego wi\u0119cej si\u0119 przez to nie dowiemy. W ka\u017cdym razie to ju\u017c nie b\u0119dzie nasz \u015bwiat<\/em>. \u015awiat \u201epo moralno\u015bci\u201d, w kt\u00f3rym miary dobra i z\u0142a b\u0119d\u0105 inne, a mo\u017ce po prostu mniej istotne dla \u017cyj\u0105cych w nim istot.<\/p>\n","protected":false},"excerpt":{"rendered":" Wyobra\u017amy sobie \u015bwiat za p\u00f3\u0142 wieku. Wci\u0105\u017c dzia\u0142aj\u0105 wsp\u00f3\u0142czesne instytucje \u017cycia publicznego, takie jak szko\u0142y i parlamenty. Co si\u0119 w nich b\u0119dzie dzia\u0142o? Czy uczniowie b\u0119d\u0105 zmuszani do pisania wypracowa\u0144 bez pomocy sztucznej inteligenci, cho\u0107 wszyscy b\u0119d\u0105 pewni, \u017ce z zasady b\u0119d\u0105 to wypracowania gorsze i \u017ce nikt po uko\u0144czeniu szko\u0142y nie b\u0119dzie si\u0119 bawi\u0142 […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1317],"tags":[1319,1318],"_links":{"self":[{"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/posts\/7068"}],"collection":[{"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/comments?post=7068"}],"version-history":[{"count":5,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/posts\/7068\/revisions"}],"predecessor-version":[{"id":7073,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/posts\/7068\/revisions\/7073"}],"wp:attachment":[{"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/media?parent=7068"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/categories?post=7068"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.polityka.pl\/hartman\/wp-json\/wp\/v2\/tags?post=7068"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}