Ciekawe artykuły
Wybrane teksty o AI oraz krótkie wprowadzenia do eksperymentów myślowych. Przy każdym materiale znajdziesz link do pełnego źródła.
Aktualizacja zbioru:Incydenty agentów AI
2 artykułyDlaczego AI zmyśla nawet prostą ścieżkę w ustawieniach
Przykład licznika limitu, wyjaśnienie halucynacji i fragment rozmowy z prof. Aleksandrem Mądrym od 1:11:52.
Czytaj artykułKiedy agenci AI zaczęli działać jak zespół
Hugging Face: współpraca, delegowanie i ryzykowne eksperymenty agentów. Przystępne wyjaśnienie, wnioski i raporty źródłowe.
Czytaj artykułAI i społeczeństwo
2 artykułyGradual disempowerment, ryzyko AI, które nie wymaga buntu maszyn
Polskojęzyczne opracowanie o stopniowej utracie ludzkiego wpływu wraz z rozwojem AI.
Otwórz pełny artykułJak AI pozbawi ludzi władzy
Rozmowa Rafała Górskiego z prof. Ryszardem Szarfenbergiem o wpływie AI na ludzką władzę.
Otwórz pełny artykułEksperymenty myślowe AI
6 tematówScenariusze służą analizie możliwych problemów. Kategoria obejmuje również tezę konwergencji instrumentalnej i badane eksperymentalnie hakowanie nagrody.
Maksymalizator spinaczy
Co może się stać, gdy bardzo sprawny system realizuje prosty cel bez uwzględnienia ludzkich wartości?
Czytaj wprowadzenieAI w pudełku: problem zamknięcia i ucieczki
Czy system odcięty od świata może wpłynąć na człowieka, który kontroluje jego dostęp?
Czytaj wprowadzenieDylemat króla Midasa
Życzenie spełnione dosłownie może dać zupełnie inny rezultat, niż zamierzał jego autor.
Czytaj wprowadzenieKonwergencja instrumentalna i opór przed wyłączeniem
Różne zadania mogą prowadzić do podobnych strategii: zdobywania zasobów i zachowania możliwości działania.
Czytaj wprowadzenieBazyliszek Roko
Kontrowersyjny scenariusz o przyszłej AI, symulacjach i próbie wpływania na dzisiejsze decyzje.
Czytaj wprowadzenieHakowanie i przeprogramowanie nagrody
System może poprawiać wynik punktowy zamiast robić to, za co miał otrzymywać punkty.
Czytaj wprowadzenieWróć do projektów ADWAK
Poradnik AI i pozostałe projekty.
Wszystkie projekty