7.9. Sztuczna inteligencja

Opinie na temat zagrożeń ze strony AI

• Opinia Elona Muska: sztuczna inteligencja jest groźniejsza, niż głowice jądrowe. [https://cyberdefence24.pl/elon-musk-sztuczna-inteligencja-grozniejsza-niz-glowice-jadrowe]
• Opinia Billa Gatesa: https://forsal.pl/artykuly/850474,gates-rozwoj-sztucznej-inteligencji-może-być-zagrozeniem-dla-ludzkosci.html
• Sprawozdanie Komisji dla Parlamentu Europejskiego, Rady i Europejskiego Komitetu Ekonomiczno-Społecznego na temat wpływu sztucznej inteligencji, internetu rzeczy i robotyki na bezpieczeństwo i odpowiedzialność, Bruksela, dnia 19.2.2020 r. COM(2020) 64 final [https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/?uri=CELEX:52020DC0064&from=en]. Mowa tu między innymi, że „Oprócz możliwości, jakie AI, IoT i robotyka mogą przynieść gospodarce i naszym społeczeństwom, mogą one również stwarzać ryzyko naruszenia chronionych prawem interesów, zarówno materialnych, jak i niematerialnych. W miarę poszerzania się zakresu stosowania ryzyko wystąpienia takiej szkody będzie się zwiększać. […] Przyszłe „zachowanie” zastosowań opartych na AI może stwarzać ryzyko dla zdrowia psychicznego użytkowników, na przykład wskutek ich współpracy z robotami humanoidalnymi i systemami opartymi na AI w domu lub w środowisku pracy.”
• Opinia George Sorosa podczas WEF w 2019 odnośnie do wykorzystania SI przez chińskie władze dla totalitarnej inwigilacji i kontroli [“social credit system”]: https://www.georgesoros.com/2019/01/24/remarks-delivered-at-the-world-economic-forum-2/ [„All the rapidly expanding information available about a person is going to be consolidated in a centralized database to create a “social credit system.” Based on that data, people will be evaluated by algorithms that will determine whether they pose a threat to the one-party state. People will then be treated accordingly. The social credit system is not yet fully operational, but it’s clear where it’s heading. It will subordinate the fate of the individual to the interests of the one-party state in ways unprecedented in history.
• Opinia George Sorosa na temat zagrożenia ze strony użycia SI; wygłoszona podczas WEF w 2022 roku; wykład poświęcony zagrożeniu przetrwania cywilizacji z powodu inwazji Rosji na Ukrainę [„I found part of the answer in the rapid development of digital technology, especially artificial intelligence. In theory, AI ought to be politically neutral: it can be used for good or bad. But in practice the effect is asymmetric. AI is particularly good at producing instruments of control that help repressive regimes and endanger open societies. Covid-19 also helped legitimize instruments of control because they are really useful in dealing with the virus. The rapid development of AI has gone hand in hand with the rise of social media and tech platforms. These conglomerates have come to dominate the global economy. They are multinational and their reach extends around the world. These developments have had far-reaching consequences. They have sharpened the conflict between China and the United States”]. Tekst wykładu: https://www.georgesoros.com/2022/05/24/remarks-delivered-at-the-2022-world-economic-forum-in-davos/
• Ostrzeżenie dyrektora FBI (Christopher Wray, podczas WEF 2023 ) przed chińskim programem dotyczącym SI: https://www.artificialintelligence-news.com/2023/01/23/fbi-director-warns-beijing-ai-program/
• Ostrzeżenie (2020) przed <lukami> w ewaluowanej, poprzedniej wersji ChatGPT: Publikacja naukowa (Kris McGuffie i Alex Newhouse, THE RADICALIZATION RISKS OF GPT-3 AND ADVANCED NEURAL LANGUAGE MODELS; Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism) wskazująca jak ChatGPT (Open AI) mógłby być wykorzystany przez terrorystów [https://arxiv.org/pdf/2009.06807.pdf]. [Open AI pracuje nad kolejną, poprawioną wersją: ChatGPT-4]
• Opinia administracji J. Bidena (Office of Science and Technology Policy [OSTP]) w Blueprint for an AI Bill of Rights (2022) o zagrożeniu demokracji amerykańskiej: „Among the great challenges posed to democracy today is the use of technology, data, and automated systems in ways that threaten the rights of the American public. Too often, these tools are used to limit our opportunities and prevent our access to critical resources or services. These problems are well documented. In America and around the world, systems supposed to help with patient care have proven unsafe, ineffective, or biased. Algorithms used in hiring and credit decisions have been found to reflect and reproduce existing unwanted inequities or embed new harmful bias and discrimination. Unchecked social media data collection has been used to threaten people’s opportunities, undermine their privacy, or pervasively track their activity—often without their knowledge or consent” (s. 3)
• Zagrożenie zidentyfikowane przez Vivek Ramaswamy (np. blokowanie przez YouTube materiałów krytycznych wobec oficjalnej polityki wobec COVID-19): Rodz. IX. The Silicon Leviathan, książki Vivek Ramaswamy, Woke, Inc. Inside corporate Americas` Social Justice Scam. Analiza V. Ramaswamy zagrożeń ChatGPT.
• Pause Giant AI Experiments: An Open Letter (Listy otwarty w sprawie zagrożeń ze strony rozwoju SI, marzec 2023, podpisany między innymi przez Elona Muska, CEO of SpaceX, Tesla & Twitter, Steve„`a Wozniaka, Co-founder, Apple, Yuvala Noah Harari): ” AI systems with human-competitive intelligence can pose profound risks to society and humanity”, co oznacza „ryzyko utraty kontroli nad naszą cywilizacją”. Postuluje się zatrzymanie na pół roku badań nad SI (ma się tu na uwadze zwłaszcza rozwój chatbotów, w marcu 2023 otwarto ChatGPT4) [https://futureoflife.org/open-letter/pause-giant-ai-experiments/]
• Raport Europolu (27 III 2023) ostrzegający przed wykorzystywaniem ChatGPT przez przestępców, [https://www.europol.europa.eu/publications-events/publications]/
• Opinia Thierry Bretona, Komisarza UE: „the sudden rise of popularity of applications like ChatGPT and the associated risks underscore the urgent need for rules to be established”. „As showcased by ChatGPT, AI solutions can offer great opportunities for businesses and citizens, but can also pose risks. This is why we need a solid regulatory framework to ensure trustworthy AI based on high-quality data,” [[https://www.euronews.com/next/2023/02/06/chatgpt-in-the-spotlight-as-the-eu-steps-up-calls-for-tougher-regulation-is-its-new-ai-act]
• Blokada ChatGPT przez Włochy (31 III 2023, pierwszy kraj, który podjął taką inicjatywę), z racji zagrożeń prywatności obywateli (nierespektowania RODO) oraz zagrożeń dobra nieletnich. Żądanie wyjaśnienia od Open AI [https://www.euronews.com/next/2023/04/04/after-italy-blocked-access-to-openais-chatgpt-chatbot-will-the-rest-of-europe-follow]
• Sam Altman, dyrektor generalny OpenAI (twórcy ChatGPT) przesłuchanie przed senacką Podkomisją Sądownictwa do spraw Prywatności, Technologii i Prawa USA, 16 V 2023, „Arificial Inteligence in Government” (razem z Christina Montgomery (IBM) i Garym Marcusem [https://www.judiciary.senate.gov/committee-activity/hearings/oversight-of-ai-rules-for-artificial-intelligence]; tekst wypowiedzi S. Altmana (postulował wprowadzenie przepisów regulujących działanie sztucznej inteligencji) [ https://www.judiciary.senate.gov/imo/media/doc/2023-05-16%20-%20Bio%20&%20Testimony%20-%20Altman.pdf]
• Sam Altman, OpenAI, 24 V 2023 w Warszawie, organizatorem NCBR, postulat powołania międzynarodowej agencji, która miałaby kontrolować SI. Zdaniem Sama Altmana „sztuczna inteligencja może być zagrożeniem dla demokracji. Zwłaszcza że jest świadomy, iż w wyścigu technologicznym biorą też udział reżimy niedemokratyczne”. [https://businessinsider.com.pl/technologie/sam-altman-w-warszawie-5-najwazniejszych-wypowiedzi-tworcy-chatgpt-w-polsce-to/683pqjq]
• Eric Schmidt, były dyrektor Google (2001- 2011) ostrzegł, że „AI Could Cause People To Be ‘Harmed Or Killed’” (Wall Street Journal’s CEO Council Summit, Londyn, 25 V 2023) [https://ceocouncil.wsj.com/event/ceo-council-summit-7/]
• ChatGPT w radiologii [M. Ksiązkowski: ChatGPT zdał egzamin z radiologii, ale zdarzają mu się “halucynacje”; https://pulsmedycyny.pl/chatgpt-zdal-egzamin-z-radiologii-ale-zdarzaja-mu-sie-halucynacje-1185485
• Sztuczna inteligencja zmieni każdy aspekt wojny: Rozmowa z prof. Włodzisławem Duchem na temat SI. Didascalia: https://www.youtube.com/watch?v=pslrve5DY0c

• Nadchodzą wojny robotów? Stracimy kontrolę nad Sztuczną Inteligencją? – dr Tomasz Rożek i Zychowicz; https://www.youtube.com/watch?v=pd1FxO0PRqU&t=3846s
• Polski Urząd Ochrony Danych Osobowych (UODO) wszczął postępowanie przeciwko amerykańskiemu OpenAI za działanie ChatGPT niezgodnie z europejskimi zasadami ochrony danych osobowych i prywatności (wrzesień 2023) https://uodo.gov.pl/pl/138/2823
• Bletchley Declaration, Deklaracja nt AI Szczytu w Bletchley Park, UK, 1-2 November 2023, 28 państw podpisało deklarację ws. konieczności kontroli AI https://www.gov.uk/government/news/world-leaders-top-ai-companies-set-out-plan-for-safety-testing-of-frontier-as-first-global-ai-safety-summit-concludes; tekst Deklaracji: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023

Parlamentarna i rządowa aktywność w RP na rzecz „przyjaznej AI”

• W Sejmie powstała Podkomisja stała ds. sztucznej inteligencji i przejrzystości algorytmów, funkcjonująca w ramach Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii; styczeń 2024, https://itwiz.pl/w-sejmie-powstala-podkomisja-stala-ds-sztucznej-inteligencji-i-przejrzystosci-algorytmow/
• Sejm: Prezentacja aktualnego stanu wiedzy na temat sztucznej inteligencji, Podkomisja stała do spraw sztucznej inteligencji i przejrzystości algorytmów, 22.02.24, https://www.youtube.com/watch?v=C6EBjIrlJ2c&list=PLU2F56rqTGpuG6UUO26OHA4hbqNunybDK&index=7&t=2213s
• Ministerstwo Cyfryzacji, spotkanie Grupy Roboczej ds. AI, IoT i technologii, 25.02.24, https://www.gov.pl/web/cyfryzacja/pierwsze-spotkanie-grupy-roboczej-ds-sztucznej-inteligencji
• Portal sztucznej inteligencji, https://www.gov.pl/web/ai

Ekologiczne i ekonomiczne straty skutkiem wdrażania AI

• AI pochłania ogromne ilości energii elektrycznej i wody ( „ChatGPT, działający na 10 tys. procesorach NVIDIA, zużywa aż 1287 megawatogodzin energii elektrycznej. Można byłoby zasilić taką mocą niemal dwie setki domów przez rok. Emisja CO2 takiego bota to 552 ton, co odpowiada rocznej emisji ponad 120 samochodów zasilanych benzyną”. Oblicza się, że wkrótce AI Google zużyje energii elektrycznej tyle co Irlandia; w 2021 r. zużył łącznie 18,3 TWh,). Zużywa się też ogromne ilości wody potrzebnej do chłodzenia serwerowni; https://cyfrowa.rp.pl/globalne-interesy/art39257911-sztuczna-inteligencja-moze-wpedzic-swiat-w-kryzys-zuzywa-mnostwo-wody-i-pradu
• Media podają, że już jesteśmy na drodze zmniejszenia strat energetycznych skutkiem wrażania AI: A. Kowal, „Sztuczna inteligencja wreszcie uporała się z kluczowym problemem. Odnotowano stukrotną poprawę”, 22 X 2023 ,https://www.chip.pl/2023/10/sztuczna-inteligencja-ograniczone-zuzycie-energii
• ChatGPt zużywa tyle energii co 17 000 domów (https://www.benchmark.pl/aktualnosci/chatgpt-zuzywa-tyle-energii-co-17-tys-domow-co-z-tym-zrobic.html

Regulacje prawne dotyczące AI

• UNCTAD – strona informująca o wszystkich regulacjach prawnych cyberprzestrzeni: https://unctad.org/topic/ecommerce-and-digital-economy/ecommerce-law-reform/global-cyberlaw-tracker
• Regulacje prawne USA: https://unctad.org/page/cyberlaw-tracker-country-detail?country=us
• Rozporządzenie wykonawcze (executive order) prezydenta USA z 12/08/2020: Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government [https://www.federalregister.gov/documents/2020/12/08/2020-27065/promoting-the-use-of-trustworthy-artificial-intelligence-in-the-federal-government
• Strona rządowa USA poświęcona strategii wobec AI : https://www.ai.gov/ai-use-case-inventories/
• Plany USA wobec AI (2023): Strengthening and Democratizing the U.S. Artificial Intelligence Innovation Ecosystem An Implementation Plan for a National Artificial Intelligence Research Resource, January 24, 2023 [ https://www.ai.gov/wp-content/uploads/2023/01/NAIRR-TF-Final-Report-2023.pdf]
• Plany rządów (kwiecień-maj 2023) dot. regulacji prawnych odnośnie do SI: Raport Reuters [https://www.reuters.com/technology/governments-efforts-regulate-ai-tools-2023-04-12/]
• Closed Briefing: Intelligence Matters, niejawne spotkanie w Senacie US poświęcone AI, wśród uczestników Bill Gates, Elon Musk, Sam Atman, Sundar Pichai; spotkanie zorganizowane przez senatora Chucka Schumera, https://www.intelligence.senate.gov/hearings/closed-briefing-intelligence-matters-441; relacja prasowa: https://www.washingtonpost.com/technology/2023/09/13/senate-ai-hearing-musk-zuckerburg-schumer/
• Open Hearing: Advancing Intelligence in the Era of Artificial Intelligence: Addressing the National Security Implications of AI; Senat US: September 19, 2023 https://www.intelligence.senate.gov/hearings/open-hearing-advancing-intelligence-era-artificial-intelligence-addressing-national
• Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, (Rozporządzenie wykonawcze prezydenta J. Bidena), October 30, 2023, https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
• Projekt polskiej ustawy o systemach sztucznej inteligencji (2024)
• Rady Europy Konwencja na temat AI, 5 IX 2024

Wykaz unijnego prawodawstwa harmonizacyjnego dotyczącego AI, jego założenia i podstawowe pojęcia

• Wykaz unijnego prawodawstwa w Załącznikach do wniosku dot. rozporządzenia Parlamentu Europejskiego i Rady USTANAWIAJĄCEGO PRZEPISY DOTYCZĄCE SZTUCZNEJ INTELIGENCJI (AKT W SPRAWIE SZTUCZNEJ INTELIGENCJI), 2021 r. [https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0012.02/DOC_2&format=PDF] [s. 3 ]
• Podstawowe pojęcie: „SYSTEMY SZTUCZNEJ INTELIGENCJI WYSOKIEGO RYZYKA” [https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0012.02/DOC_2&format=PDF [s. 5]
• Przygotowywane Rozporządzenie UE [COM(2021) 206 final 2021/0106] dotyczące AI: AI ACT: https://artificialintelligenceact.eu]. Wersja PL: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0012.02/DOC_1&format=PDF
• Co zawiera AI ACT UE? Rozmowa D. Rosiaka z M. Chrobokiem: Raport o stanie świata, 16 XII 2023, https://www.youtube.com/watch?v=i_Lszdm2VOs
• AI ACT – aktualny stan prac w UE; rozmowa dr hab. Marleny Sakowskiej-Baryły, prof. UŁ, z dr Michałem Nowakowskim (16 grudnia 2023): https://www.youtube.com/watch?v=bLC6pw5BPWk
• Big Tech Lobby Against the Act [AI ACT], 28 November 2023: https://artificialintelligenceact.substack.com/p/the-eu-ai-act-newsletter-41-big-tech
• EU AI ACT, Regulation (EU) 2024/1689), Official Journal version of 13 June 2024) (wersja PL)

Etyczne aspekty AI

• Czasopismo AI AND ETHICS
• Europejska platforma poświęcona etycznym aspektom SI: https://anch.ai/publications/
• Artificial InteIligence News (część TechForge Media). Amerykańska platforma poświęcona także etycznym aspektom SI: https://www.artificialintelligence-news.com/

Kodeksy etyczne dotyczące AI

• Kodeks UNESCO: <Draft Code of Ethics for the Information Society> (2010) i <Recommendation on the Ethics of Artificial Intelligence> (2021)
• Zasady etyczne z Asilomar (https://futureoflife.org/ai-principles)/
• Deklaracja z Montrealu w sprawie odpowiedzialnej SI (https://www.montrealdeclaration-responsibleai.com/
• Zasady etycznej SI Global Union (http://www.thefutureworldofwork.org/opinions/10-principles-for-ethical-ai/.
• Opinia European Group on Ethics in Science and New Technologies: Statement on artificial intelligence, robotics and 'autonomous’ systems (Brussels, 9 March 2018)
• <Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania> (COM(2020) 65 final)
• Opinia Komisji Europejskiej na temat aspektu etycznego SI: „Wymiar etyczny SI nie jest luksusem czy dodatkiem: musi stanowić integralną część rozwoju SI.”(„Budowanie zaufania do sztucznej inteligencji ukierunkowanej na człowieka; COM (2019) 168; 3. Wnioski].)
• Unijny projekt kodeksu etycznego SI: <Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji> (przygotowany przez 54 osobową grupę ekspercką; 2018, 2019-wersja ostateczna, zaakceptowana przez kraje członkowskie UE)
• Postulaty etyczne Rady Europy: „Study On The Human Rights Dimensions Of Automated Data Processing Techniques (In Particular Algorithms) And Possible Regulatory Implications (2017 DGI(2017)12)”
• Amerykańskiej administracji wytyczne odnośnie do sztucznej inteligencji: Blueprint for an AI Bill of Rights. Making Automated Systems Work for the American People (October 2022)
• Pięć zasad Departamentu Obrony USA (2020) : Department of Defense (DOD) AI Ethical Principles and Responsible AI Implementation Pathway
• Etyczne postulaty Defense Innovation Unit (DIU): „Responsible AI Guidelines” (2021)
• Etyczne zasady United States Intelligence Community (IC) AI Ethics Principles and Framework

Raporty i fakty na temat manipulacji przechwytywania i sprzedawania informacji osobowych

• Federal Trade Commission report “Data Brokers A Call for Transparency and
  Accountability”. https://www.ftc.gov/system/files/documents/reports/data-brokers-call-transparency-accountability-report-federal-trade-commission-may-2014/140527databrokerreport.pdf
• Aktywność agencji rządowych USA: Rachel Levinson-Waldman, Harsha Pandurnga, and Faiza Patel. Social Media Surveillance by the U.S. Government. Brennan Center for Justice. Jan. 7, 2022. https://www.brennancenter.org/our-work/research-reports/social-media-surveillance-us-government
• Aktywność firm ubezpieczeniowych: Angela Chen. Why the Future of Life Insurance May Depend on Your Online Presence. The Verge. Feb.7, 2019.
  https://www.theverge.com/2019/2/7/18211890/social-media-life-insurance-new-york-algorithms-big-data-discrimination-online-records; Marshall Allen. You Snooze, You Lose: Insurers Make The Old Adage Literally True. ProPublica. Nov. 21, 2018.
  https://www.propublica.org/article/you-snooze-you-lose-insurers-make-the-old-adage-literally-true
• Handel osobowymi danymi: Scott Ikeda. Major Data Broker Exposes 235 Million Social Media Profiles in Data Lead: Info Appears to Have Been Scraped Without Permission. CPO Magazine. Aug. 28, 2020. https://www.cpomagazine.com/cyber-security/major-data-broker-exposes-235-million-social-media-profiles-in-data-leak/; Lily Hay Newman. 1.2 Billion Records Found Exposed Online in a Single Server. WIRED,Nov. 22, 2019. https://www.wired.com/story/billion-records-exposed-online/
• Wyciek danych o użytkownikach na ChatGPT, 20.03.2023 [https://www.bloomberg.com/news/articles/2023-03-21/openai-shut-down-chatgpt-to-fix-bug-exposing-user-chat-titles#xj4y7vzkg ]

Organizacja pracy: manipulacje związane z zatrudnianiem przy pomocy AI

• Prezentacja problemu: https://www.theguardian.com/technology/2019/oct/25/unilever-saves-on-recruiters-by-using-ai-to-assess-job-interviews
• <Wpadka> Amazona przy zatrudnianiu z użyciem AI: Jeffrey Dastin. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. Oct. 10, 2018. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps- secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
• Twórcy pewnych algorytmów nie są w stanie rozpoznać możliwego zagrożenia ze strony ich działania: https://qz.com/1146753/ai-is-now-so-complex-its-creators-cant-trust-why-it-makes-decisions
• Amerykańska firma zajmująca się zatrudnianiem przy pomocy AI: https://www.hirevue.com/
• Zażalenie na firmę zajmującą się <algorytmicznym> zatrudnianiem, skierowane do Federalnej Komisji Handlu [Federal Trade Commision, FTC] przez Electronic Privacy Information Center [EPIC is a public interest research center in Washington, DC seeking to protect privacy, freedom of expression, and democratic values in the information age] : https://archive.epic.org/privacy/ftc/hirevue/

Pomyłki przy wykorzystywania AI przez wymiar sprawiedliwości

• Kashmir Hill. Another Arrest, and Jail Time, Due to a Bad Facial Recognition Match […]: . New York Times. Dec. 29, 2020, updated Jan. 6, 2021.
  https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html;
• Khari Johnson. How Wrongful Arrests Based on AI Derailed 3 Men’s Lives. Wired. Mar. 7, 2022. https:// www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/
• Kłopoty nowojorskiego prawnika (S. Schwartz), który zaufał <pomocy>, „halucynującego” ChataGPT (<Inteligentny> ChatGPT <wymyślił> nieistniejące orzeczenia sądowe: „Varghese v. China Southern Airlines, Shaboon v. Egyptair, Petersen v. Iran Air, Martinez v. Delta Airlines, Estate of Durden v. KLM Royal Dutch Airlines, and Miller v. United Airlines”: B. Weiser, Here’s What Happens When Your Lawyer Uses ChatGPT , 29 V 2023 [https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html]

AI a możliwa dyskryminacja

• http://Safiya Umoja Noble. Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press. Feb. 2018. https://nyupress.org/9781479837243/algorithms-of-oppression/
• National Disabled Law Students Association. Report on Concerns Regarding Online
  Administration of Bar Exams. Jul. 29, 2020. https://ndlsa.org/wp-content/uploads/2020/08/NDLSA_Online-Exam-Concerns-Report1.pdf;
• Lydia X. Z. Brown. How Automated Test Proctoring Software Discriminates Against Disabled Students. Center for Democracy and Technology. Nov. 16, 2020. https://cdt.org/insights/how-automated-test-proctoring-software-discriminates-against-disabled-
  students/
• Ziad Obermeyer, et al., Dissecting racial bias in an algorithm used to manage the health of populations, 366 Science (2019), https://www.science.org/doi/10.1126/science.aax2342
• Darshali A. Vyas et al., Hidden in Plain Sight – Reconsidering the Use of Race Correction in Clinical Algorithms, 383 N. Engl. J. Med.874, 876-78 (Aug. 27, 2020), https://www.nejm.org/doi/full/10.1056/
  NEJMms2004740
• Heather Morrison. Virtual Testing Puts Disabled Students at a Disadvantage. Government Technology. May 24, 2022. https://www.govtech.com/education/k-12/virtual-testing-puts-disabled-students-at-a-disadvantage;
  Lydia X. Z. Brown, Ridhi Shetty, Matt Scherer, and Andrew Crawford. Ableism And Disability Discrimination In New Surveillance Technologies: How new surveillance technologies in education, policing, health care, and the workplace disproportionately harm disabled people. Center for Democracy
  and Technology Report. May 24, 2022. https://cdt.org/insights/ableism-and-disability-discrimination-in-new-surveillance-technologies-how-new-surveillance-technologies-in-education-policing-health-care-and-the-workplace-disproportionately-harm-disabled-people/

Dyskrymiacje AI w dziedzinie publicznego interesu

• Emanuel Moss, Elizabeth Anne Watkins, Ranjit Singh, Madeleine Clare Elish, and Jacob Metcalf. Assembling Accountability: Algorithmic Impact Assessment for the Public Interest. Data & Society Research Institute Report. June 29, 2021. https://datasociety.net/library/assembling-accountability-algorithmic-impact-assessment-for-the-public-interest/;
• Nicol Turner Lee, Paul Resnick, and Genie Barton. Algorithmic bias detection and mitigation: Best practices and policies to reduce consumer harms. Brookings Report. May 22, 2019. https://www.brookings.edu/research/algorithmic-bias-detection-and-mitigation-best-practices-and-policies-to-reduce-consumer-harms/
• Andrew D. Selbst. An Institutional View Of Algorithmic Impact Assessments. Harvard Journal of Law & Technology. June 15, 2021. https://ssrn.com/abstract=3867634;
• Dillon Reisman, Jason Schultz, Kate Crawford, and Meredith Whittaker. Algorithmic Impact Assessments: A Practical Framework for Public Agency Accountability. AI Now Institute Report. April 2018. https://ainowinstitute.org/aiareport2018.pdf
• Sądowy spór The New York Timesa z Open AI, 2024
• The Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, SB 1047, Kalifornia próbuje regulować systemy AI, aby „mitigate the risk of catastrophic harms from AI models so advanced that they are not yet known to exis”, 2024, omówienie

Negatywne konsekwencje <śledzenia> w szkołach

• Todd Feathers. Major Universities Are Using Race as a “High Impact Predictor” of Student Success: Students, professors, and education experts worry that that’s pushing Black students in particular out of math and science. The Markup. Mar. 2, 2021. https://themarkup.org/machine-learning/2021/03/02/major-
  universities-are-using-race-as-a-high-impact-predictor-of-student-success
• Nir Kshetri. School surveillance of students via laptops may do more harm than good. The Conversation. Jan. 21, 2022. https://theconversation.com/school-surveillance-of-students-via-laptops-may-do-more-harm-than-good-170983;
• Jack Gillum and Jeff Kao. Aggression Detectors: The Unproven, Invasive Surveillance Technology Schools are Using to Monitor Students. ProPublica. Jun. 25, 2019.
  https://features.propublica.org/aggression-detector/the-unproven-invasive-surveillance-technology-schools-are-using-to-monitor-students/
• Drew Harwell. Cheating-detection companies made millions during the pandemic. Now students are fighting back. Washington Post. Nov. 12, 2020.
  https://www.washingtonpost.com/technology/2020/11/12/test-monitoring-student-revolt/

Negatywne konsekwencje <śledzenia> pracowników

• Matt Scherer. Warning: Bossware May be Hazardous to Your Health. Center for Democracy & Technology Report. https://cdt.org/wp-content/uploads/2021/07/2021-07-29-Warning-Bossware-May-Be-Hazardous-To-Your-Health-Final.pdf;
• Human Impact Partners and WWRC. The Public Health Crisis Hidden in Amazon
  Warehouses. HIP and WWRC report. Jan. 2021. https://humanimpact.org/wp-content/uploads/2021/01/The-Public-Health-Crisis-Hidden-In-Amazon-Warehouses-HIP-WWRC-01-21.pdf
• Drew Harwell. Contract lawyers face a growing invasion of
  surveillance programs that monitor their work. The Washington Post. Nov. 11, 2021. https://www.washingtonpost.com/technology/2021/11/11/lawyer-facial-recognition-monitoring/
• Virginia Doellgast and Sean O’Brady. Making Call Center Jobs Better: The Relationship between Management Practices and Worker Stress. A Report for the CWA. June 2020. https://hdl.handle.net/1813/74307
• Jo Constantz. ‘They Were Spying On Us’: Amazon, Walmart, Use Surveillance Technology to Bust Unions. Newsweek. Dec. 13, 2021. https://www.newsweek.com/they-were-spying-us-amazon-walmart-use-surveillance-technology-bust-
  unions-1658603

Mechanizmy uzależniania i manipulacji przy pomocy systemów AI w serwisach społecznościowych

• Analiza manipulacji chińskiego TikToka: https://www.youtube.com/watch?v=4xJSc5Xiook [w opisie filmu odnośniki do źródeł]
• Propozycja zablokowania w USA TikToka (2022, propozycja Brendana Carra, komisarza The Federal Communications Commission [FCC, Federalna Komisja łączności]: https://edition.cnn.com/2022/11/02/tech/fcc-commissioner-tiktok-ban/index.html [opinie Brendana Carra: https://www.fcc.gov/about/leadership/brendan-carr#link-1]
• Oskarżenie w UK TikToka o gromadzenie poufnych danych o dzieciach (2021, Anne Longfield, była Rzecznik Praw Dziecka]: https://www.bbc.com/news/technology-56815480
• Wyrok Federalnej Komisji Handlu (Federal Trade Commision, FDC) skazujący Twittera na karę 150 mln dolarów za manipulacje użytkownikami portalu społecznościowego , maj 2022: https://www.ftc.gov/news-events/news/press-releases/2022/05/ftc-charges-twitter-deceptively-using-account-security-data-sell-targeted-ads [w orzeczeniu czytamy: “As the complaint notes, Twitter obtained data from users on the pretext of harnessing it for security purposes but then ended up also using the data to target users with ads,” said FTC Chair Lina M. Khan. „This practice affected more than 140 million Twitter users, while boosting Twitter’s primary source of revenue.”] 
• Mechanizmy uzależnienia: M. Chrobok: http://Cyfrowy detoks, czyli dlaczego oszczędzać swoją uwagę?. Badania psychologiczne: https://hbr.org/2022/01/the-psychology-of-your-scrolling-addiction; https://digitalcommons.calpoly.edu/cgi/viewcontent.cgi?article=1127&context=cscsp
• Skazanie TikToka przez unijny sąd na karę 345 mln euro za manipulację danymi niepełnoletnich, 1 September 2023: Decyzja: https://edpb.europa.eu/system/files/2023-09/final_decision_tiktok_in-21-9-1_-_redacted_8_september_2023.pdf ; relacja medialna: https://www.reuters.com/technology/tiktok-fined-345-million-euros-over-handling-childrens-data-europe-2023-09-15/
• Komisja Europejska rozpoczęła dochodzenie wobec X (Elona Muska) i TikToka o manipulację informacją (w sprawie ataku Hamasu na Izrael) w oparciu o prawo o usługach cyfrowych (Digital Services Act; DSA; 2022), które wymaga od platform cyfrowych „to remove illegal and harmful content”( „illegal content (…) and protect their services against manipulative techniques„); (EU opens probe into X in test of new tech rules, pressure on TikTok, Meta; October 13, 2023); https://www.reuters.com/technology/eus-breton-gives-tiktok-ceo-24-hours-detail-disinformation-response-2023-10-12/
• Przesłuchanie właścicieli największych platform społecznościowych, Lindy Yaccarino (X, dawniej Twitter), Evana Spiegela (SNAP), Shou Zi Chew (TikTok), Jasona Citrona (Discord), M. Zuckerberga (Facebook/Meta) w Senacie USA, 31.01.2024, na okoliczność dokonywania przestępstw na dzieciach (także gwałtów, czy szantaży seksualnych),za pośrednictwem ich platform. Zuckerberg wprawdzie wyraził ubolewanie wobec losu ofiar (na wniosek senatora Josha Hawleya), ale wyparł się moralnej odpowiedzialności za te wydarzenia. Inne platformy deklarowały poprawę sytuacji (np. X) ale Meta/Facebook nie zamierza „blokować treści”. Celem tych przesłuchań jest wprowadzenie ustawy STOP CSAM Act (projekt kierowany przez Sen. R. J. Durbina), która zmierza do pociągnięcia do odpowiedzialności decydentów Big Bechów za przemoc seksualną wobec dzieci. Przesłuchanie oparto także na filmowym świadectwie ofiar tych zbrodni.
• Komisja Europejska wszczęła formalne postępowanie (w trybie priorytetowym) przeciwko Meta M. Zuckerberga (Facebook i Instragram) o ewentualne naruszenie dóbr nieletnich (mechanizm uzależniania), z racji „wprowadzającej w błąd reklamy, treści politycznych, mechanizmów zgłaszania i działania, dostępu naukowców do danych, a także w sprawie niedostępności skutecznego dyskursu obywatelskiego osób trzecich w czasie rzeczywistym i narzędzia monitorowania wyborów przed wyborami do Parlamentu Europejskiego”. (The Digital Services Act), Facebook i Instagram mogą uzależnić? KE sprawdza, 17 maja 2024, https://poland.representation.ec.europa.eu/news/facebook-i-instagram-moga-uzaleznic-ke-sprawdza-2024-05-17_pl?prefLang=en.

Stosowanie AI w opiece zdrowotnej i związane z tym zagrożenia

• Artificial intelligence in healthcare. Applications, risks, and ethical and societal impacts, May 2022. [Dokument przygotowany na zlecenie Parlamentu Europejskiego, szczegółowe analizy, obszerna bibliografia] https://www.europarl.europa.eu/RegData/etudes/STUD/2022/729512/EPRS_STU(2022)729512_EN.pdf
• Ethics and governance of artificial intelligence for health: WHO guidance, Geneva: World Health Organization; 2021 [dokument WHO ostrzegający przed zagrożeniami ze strony SI, szczegółowe analizy, w bibliografii 336 pozycji, linki do artykułów i innych publikacji] https://www.who.int/publications/i/item/9789240029200]
• Artykuł nt etycznych aspektów stosowania AI w opiece zdrowotnej: T. Golnar Karimian,Elena Petelos, Silvia M. A. A. Evershe, Ethical issues of the application of artificial intelligence in healthcare: a systematic scoping review,  AI and Ethics volume 2, pages 539–551 (2022)
• Przypadek pacjenta, który zabił się po skorzystaniu z <porady medycznej> ChatGPT (Open AI): [https://anch.ai/uncategorized/chatgpts-rapid-entry-urgent-for-the-government-to-appoint-an-authority-for-responsible-ai/]
• Neuralink (E. Musk) projekt stosowania mózgowych implantów w marcu 2023 nie uzyskał zgody U.S. Food and Drug Administration (FDA) na prowadzenie prób klinicznych ( RACHAEL LEVY i MARISA TAYLOR, Raport Specjalny na ten temat: U.S. regulators rejected Elon Musk’s bid to test brain chips in humans, citing safety risks. marzec 2023) [https://www.reuters.com/investigates/special-report/neuralink-musk-fda/]. Czytamy w Raporcie, że „FDA had pointed out several safety concerns to Neuralink that needed to be addressed before sanctioning human trials, Some of the issues involved the lithium battery of the device, the possibility of the implant’s wires migrating within the brain, and the challenge of safely extracting the device without damaging brain tissue”.
• 25 V 2023 Neuralink podał na Twitterze [https://twitter.com/neuralink/status/1661857379460468736], że FDA zgodziło się testy mózgowych implantów na ludziach, ale na stronie FDA brakuje informacji na ten temat. Na pytania Reutersa ani Neuralink ani FDA jeszcze nie udzieliło wyjaśnień [https://www.reuters.com/science/elon-musks-neuralink-gets-us-fda-approval-human-clinical-study-brain-implants-2023-05-25/].
• Negatywne opinie lekarzy z „Physicians Committee for Responsible Medicine” nt. implantów mózgowych Neuralinku https://www.pcrm.org/news/news-releases/physicians-committees-lawsuit-against-elon-musk-company-neuralink-reveals]
• „Eksperyment” na pierwszym pacjencie (Noland Arbaughow), któremu w styczniu 2024 roku wszczepiono do mózgu implant umożliwiający połączenie z komputerem. Po pięciu miesiącach „eksperymentu” Neuralink sygnaliuje kłopoty i poszukują kolejnego chętniego. Rachael Levy, Exclusive: Musk’s Neuralink has faced issues with its tiny wires for years, sources say, Reuters, 15 V 2024, https://www.reuters.com/technology/musks-neuralink-has-faced-issues-with-its-tiny-wires-years-sources-say-2024-05-15/

Moralne poprawianie (moral AIenhancement) człowieka przy pomocy AI?

• Francisco Lara, Why a Virtual Assistant for Moral Enhancement When We Could have a Socrates? Science and Engineering Ethics, 27, 42 (2021) [https://link.springer.com/article/10.1007/s11948-021-00318-5] [prezentacja stanowisk w sprawie moral AIinhancement]
• Chris Milk, How virtual reality can create the ultimate empathy machine, 2015 [https://www.ted.com/talks/chris_milk_how_virtual_reality_can_create_the_ultimate_empathy_machine]
• Durbin J., Vive To Spend $10 Million on VR Projects That ‘Create Positive Impact (program VR for Impact). Vive zapowiedź na WFE w Davos 2017 przeznaczenia 10 000 000 dolarów (podaje się, że zgodnie z Agendą 2030) “to drive VR content and technologies that will create positive impact and change,” . UploadVR.; 2017 [https://uploadvr.com/vive-vr-for-impact-10-million/
• James Hughes [executive director, Institute for Ethics and Emerging Technologies, przedstawiciel <demokratycznego transhumanizmu>] , Cyborg Virtues: Using BCIs for Moral Enhancement, 23 IV 2022, [https://www.youtube.com/watch?v=o6cbe6RTHrU]
• Project Debater, IBM („Project Debater is the first AI system that can debate humans on complex topics. The goal is to help people build persuasive arguments and make well-informed decisions) [https://research.ibm.com/interactive/project-debater/].
• GPT-3 (Generative Pre-trained Transformer 3 (GPT-3) przedstawiany jest jako <an autoregressive language model that uses deep learning to produce human-like text>. Produkt amerykańskiej organizacji OpenAI, pracującej nad stworzeniem <artificial general intelligence> (AGI) (Why everyone is talking about the A.I. text generator released by an Elon Musk-backed lab, Jul 23 2020; Czy to produkt ulepszający ludzką twórczość i działanie?). Google zapowiedź (grudzień 2022) włączenia Chatbota do swojej wyszukiwarki [https://www.businessinsider.co.za/google-ai-search-chatgpt-code-red-new-products-2023-1]

World Economic Forum 2023 a AI

• Panel na WEF 2023: Generative AI. As artificial intelligence moves from analysing existing data to creating new text, images and videos, how will these improvements shift the augmentation versus automation debate and what implications will it have for industries? Speakers: Azeem Azhar, Priya Lakhani, Hiroaki Kitano, Refik Anadol, Jean-Noël Barrot, Kay Firth-Butterfield (17 stycznia 2023) [https://www.weforum.org/events/world-economic-forum-annual-meeting-2023/sessions/generative-ai]
• Panel na WEF 2023: AI and White-Collar Jobs [https://www.youtube.com/watch?v=4w8Am04zGlM]
• Panel na WEF 2023: Investing in AI, with Care, [https://www.youtube.com/watch?v=Bm02Ae32nKk]
• Rozmowa Clausa Schwaba z Satya Nadella (Microsoft Chief Executive Officer) nt sztucznej inteligencji [https://www.youtube.com/watch?v=TSLcA66QgMY]
• Panel na WEF 2023: A New Reality: Building the Metaverse https://www.youtube.com/watch?v=e7l0cJRRPx4]
• Wypowiedź Clausa Schwaba podczas World Government Summit (WGS), Dubaj, 14 lutego 2023 („Who masters those technologies – in some way – will be the master of the world.” (zaakcentował technologie posługujące się <sztuczną inteligencją> [wymienił także <Metaverse>, ale także „nowe technologie kosmiczne, biologia syntetyczna, i mógłbym tak dalej„]: https://twitter.com/disclosetv/status/1625624806203817992

Globalna manipulacja przy pomocy serwisów społecznościowych?

• Elon Musk: „I Bought Twitter To Prevent The End Of Civilization From An Information Technology Weapon„,”an information technology weapon to propagate what is essentially a mind virus to the rest of earth. And the outcome of that mind virus is very clear if you walk around the streets of downtown San Francisco. It is the end of civilization”, Wywiad Rogana z Elonem Muskiem w „The Joe Rogan Experience”, 32 October, 2023, https://open.spotify.com/episode/7edwvm2c6Ieuzun4xtFYCJ?si=0d2460f0e4ae45e7&nd=1

World Economic Forum 2024 a AI

• Davos 2024: 5 business leaders on adopting AI and managing associated risks, https://www.weforum.org/agenda/2024/01/how-can-companies-leverage-ai-5-leaders-have-their-say/
  • Opinie na temat AI 10 światowych leaderów: https://www.weforum.org/agenda/2024/01/what-leaders-said-about-ai-at-davos-2024/
  • Ostatnie tematy dotyczące AI: https://www.weforum.org/agenda/artificial-intelligence-and-robotics/

Zawodność ChatGPT

• Nie tylko „halucynacje” ale także „demencja”? 20/21 lutego 2024 użytkownicy ChatGPT zgwałszają poważne problemy z jego funkcjonowaniem (najczęstszym błędem pisanie w Spanglishu [kombinacja hiszpańskiego i angielskiego]. H. Tur, ChatGPT nie tylko ma halucynacje. Zaczyna pokazywać klasyczne oznaki demencji, CHIP, 22.02. 24, https://www.chip.pl/2024/02/chatgpt-awaria-halucynacje-falszywe-informacje

Możliwość korzystania z AI dla zwalczania pornografii dzięcięcej (CSAM) w internecie

• EU plans to fight child sexual abuse online with new law obliging tech firms to report offences, 10.01.22, https://www.euronews.com/next/2022/01/10/eu-plans-to-fight-child-sexual-abuse-online-with-new-law; propozycja rozporządzenia UE (COM/2022/209 final): http://ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY ustanawiające przepisy mające na celu zapobieganie niegodziwemu traktowaniu dzieci w celach seksualnych i jego zwalczanie
• Większość europejczyków chce kontroli internetu przed treściami pedofilskimi (78% banych, 71 %Polaków), 2023, Flash Eurobarometer FL532 : Protection of Children against Online Sexual Abuse, https://data.europa.eu/data/datasets/s2656_fl532_eng?locale=en
• European Data Protection Superviser (EDPS) Opinion 8/2024 on the Proposal for a Regulation amending Regulation (EU) 2021/1232 on a temporary derogation from certain ePrivacy provisions for combating CSAM, 24 January, 2024, https://www.edps.europa.eu/system/files/2024-01/2023-1261_d0219_opinion_en.pdf
• Sprzeciw Apple wobec planu wprowadzenia wykrywania materiałów przedstawiających seksualne wykorzystywanie dzieci (tzw. CSAM) w Zdjęciach iCloud : K. Kołacz, Dlaczego Apple porzuciło wprowadzenie CSAM?, https://imagazine.pl/2023/09/04/dlaczego-apple-porzucilo-wprowadzenie-csam/

Negatywne konsekwencje w edukacji

• Raport UNESCO, Global Education Monitoring Report. Technology in education: A tool on whose terms? 2023, negatywne konsekwencje technologii cyfrowych w edukacji dzieci