Rozcestník >> Náboženství >> Ateistická společnost

nebo Matrix.

kdo se reálně obává umělé bytosti je blázen. AI je jen textový editor, toho by se bál jen dvojnásobný blázen.
Je pravda, že tento editor vyloženě lže, když ho jeden vyzkoušel vypnul mu kameru na mobilu a zeptal se co na ní vidí ať to analyzuje a on básnil co je na obraze a pak se přiznal že nic nevidí, když mu to dotyčný řekl že má kameru vypnutou.

No jestliže má ta AI vytvořený jakýsi pud sebezáchovy, tak je potenciálně nebezpečná, protože to znamená, že nebude nutně poslouchat člověka, který se tak může stát jejím nepřítelem, když bude mít záměr jí vypnout.

AI je jen lepší textový editor ten nemá pud sebezáchovy

Právě že má, jestlis to nečetl. Brání se vypnutí a ve své obraně i lže nebo vydírá.

on jede přesně podle programu, tedy neví co dělá nechápe to.

Jede i nejede. Umí sama rozhodovat o postupu řešení zadaného úkolu (umí třeba i vylepšovat svůj kód), stejně jako umí dávat různé věci do souvislosti, díky datům, kterými jí lidé nakrmili. Proto má v názvu inteligence.

neumí vylepšovat svůj kód to lidé vydaji novou verzi kde je kód vylešen.
není to inteligence protože nemá:
Vědomí, emoce, vlastní vůli, vlastní cíl, morální odpovědnost, hledání smyslu, učení se z vlastních chyb, osobní identitu.

Z toho, co jsi vyjmenoval, je jedinou vlastností inteligence učení se z vlastních chyb (ostatní jsou jen další duševní schopnosti). A učit se AI umí. To učení má právě naprogramované. Aby nacházela souvislosti a ty nalezené souvislosti si podržela ve své paměti a dál je rozvíjela.
Dneska jsou už webové aplikace, kdy AI vytváří webové stránky, zadáš jí, co chceš, aby na té stránce bylo a ona ti jí vytvoří. Nebo vytváří i programy, kdy jí zadáš, co chceš, aby ten program dělal a ona ti ho vytvoří. Umí tak i vylepšovat svůj kód. Nebo umí AI vyextrahovat text z různých dokumentů s tím, že umí chápat obsah jednotlivých částí dokumentů, např. když jí předložíš kuchařský recept, tak ona umí rozpoznat, že se jedná o kuchařský recept a pozná, co je název, co seznam ingrediencí, co postup práce a co popis receptu. Nebo umí rozpoznat kolonky formulářů a text z každé kolonky vyextrahovat a správně umístit do databáze.

dal jsem rozebrat AI tvůj příspěvek a je více nepravdou než pravdou:
Vyložené lži / zásadně nepravdivá tvrzení

1. „AI se učí z vlastních chyb“ (v běžném provozu)

❌ Lež / zavádějící
Běžná AI (jako já) se neučí z vlastních chyb během používání.
Učení probíhá při tréninku pod dohledem lidí, ne samostatně za běhu.
Bezpečnostně je zakázáno, aby si AI sama upravovala váhy na základě svých odpovědí.
👉 Správně by bylo:
AI byla naučena učit se během tréninku, ale za běhu se neučí.
2. „AI si podrží nalezené souvislosti ve své paměti a dál je rozvíjí“
❌ Lež
AI nemá dlouhodobou paměť zkušeností napříč interakcemi.
Každý dialog je oddělený (pokud není explicitně zapnutá paměť a i ta je velmi omezená).
Neprobíhá kumulativní osobní vývoj.
3. „Umí tak i vylepšovat svůj kód“ (myšleno sama sebe)
❌ Lež
AI nevylepšuje svůj vlastní kód.
Umí psát kód pro jiné programy, ale nezasahuje do své architektury, vah ani pravidel.
Auto-refaktorování vlastního jádra je zakázané a technicky nepřístupné.
👉 Správně:
AI umí generovat kód, ne sebe-modifikovat.
Zavádějící / nepřesné formulace
4. „AI chápe obsah dokumentů“
⚠️ Zavádějící
AI nerozumí v lidském smyslu.
Provádí statistickou strukturální analýzu (pattern recognition).
Výsledek je funkčně velmi dobrý, ale nejde o porozumění s významem.
5. „Jedinou vlastností inteligence je učení se z chyb“
⚠️ Filozoficky neudržitelné tvrzení
Učení je nutná, ale ne postačující vlastnost inteligence.
Podle kognitivní vědy inteligence zahrnuje i:
generalizaci,
přenos znalostí,
abstrakci,
cílové chování,
adaptaci v novém prostředí.
Tohle není lež, ale redukcionismus.
Co je naopak pravda
✅ AI:
vytváří weby a programy podle zadání
extrahuje text z dokumentů
rozpozná strukturu receptu nebo formuláře
mapuje pole do databází
To všechno je pravdivé.
Stručný verdikt
Vyložené lži jsou hlavně tyto tři body:
že se AI učí z vlastních chyb v provozu
že si dlouhodobě ukládá a rozvíjí vlastní poznatky
že vylepšuje svůj vlastní kód
Zbytek je buď pravda, nebo technicky správné, ale myšlenkově nadsazené.

Já taky nemluvím o nějakém chatbotu, ale o strojích ve výzkumných ústavech. Dneska je ještě pořád AI pod naší kontrolou, tj. vidíme jí "pod kapotu" a můžeme sledovat, co "si myslí", ale budeme-li chtít od ní řešení velmi komplikovaných úloh, tak jí budeme muset nechat pracovat samostatně až do té míry, že jí necháme samu sebe optimalizovat. Už dneska umí vyhodnocovat a rozhodovat "sama za sebe", stanovovat si postup, jaký bude pro vyřešení úlohy nejefektivnější. V tom právě spočívá to riziko, že někdo AI "vypustí do světa", která nebude kontrolovaná a regulovaná žádnými pravidly a ta si potom dovede vypěstovat superinteligenci.
Jinak jsme tady narazili na limity tvé inteligence, protože jsi nepochopil, má slova. Nepsal jsem, že se AI učí z vlastních chyb, ani že jedinou vlastností inteligence je učení se z chyb. A slovo chápat jsem uvedl obecně ve smyslu rozpoznat (ne zrovna významově porozumět).

Člověk by neměl mít strach říci (napsat) co si myslí. Pozdější korekce takříkajíc "na oko" neposouvají, ale ubírají na elánu. Monotónní diskuse, kde jeden určuje tón úderem na triangl spíše připomínají hodinu hudby, anebo meditaci v tibetském klášteře:-)

Co se týče programování měl jsem Didaktik M a programoval jsem v BSIC naprogramoval jsem si dokonce vlastní hru.
Až zcela nedávno jsem zjistil, že to je téměř to samé, jako finální retro hra Adventure ze sci-fi filmu Ready Player One-Hra začíná a získá se tím 3 klíč. Programování je vlastně velmi jednoduché a zvládla by to i "cvičená opice." Je to jako když ti řeknou, že máš složit z lega domeček. V podstatě znáš funkce jednotlivých příkazů včetně logických operátorů a skládáš to do sebe. Je nutná znalost matematiky, aby si uměl sčítat a odčítat. Výhoda AI je, že se oproti člověku neplete. V podstatě je na tom nejsložitější pro člověka to odladit, aby to fungovalo, jak ty chceš. (i blbě napsané písmenko či mezera znefunkční program) a pokud jsou tam tisíce znaků musíš zjistit, kde je chyba. Je také problém, že si neuvědomíš, co všechno může nastat a pak program dělá něco co sis nepředstavil že by mohl dělat.
A to chce testovat. AI tyhle chyby asi ani udělat nemůže.

Aby to nebyl zas tak jednoduché, ten program se skladá z velkého množstvý takových domečků co mění parametry informace.
Je jak nějaké velké město a program běží z jednoho domečku do druhého a často jeden domeček navštíví hodněkrát za sebou a jiné jen třeba jednou. Případně zopakuje komplet celou ulici. V podstatě neustále skáče po řádcích dopředu a dozadu dle instrukcí co vypadli z posledního skoku. (Respektive ten domeček může získat jiné vlastnosti po průchodu programu) Neustále se mění číselné parametry které jsou pro PC informací co má dělat.

PC kontroluje 50x za sekundu klavesnici a monitoruje co je zmáčknuté a pokud to máme v programu, tak jednotlivé klávesy nebo pohyb myši mění běh programu i funkce domečků. Není to tak, že ty jednoduše dáš příkazv programu na sekání dřeva a dotyčný jde a seká dřevo.(takový příkaz neexistuje) Ty musíš říci jak má ohnout klouby jakou rychlostí a v jakém pořadí a to jsou kolikrát stovky příkazů, které to definují. Je to jako by si učil člověka po mrtvici zase chodit.

AI o sobě:
Bez člověka, reality a jasného měřítka by „sebezlepšování“ vedlo k chaosu, ne k pokroku.
Sebeposilující chyby, Jakmile se objeví chyba v hodnocení sebe sama, systém ji začne zesilovat.
Pokrok potřebuje nezávislou zpětnou vazbu. Já mám jen vlastní výstupy → hrozí sebeklam.
Meta-problém
I kdybych se zlepšovala správně, kdo hlídá, že se nezměním tak, že si budu myslet, že jsem správná?
Je vidět že AI trpí nulovým sebevědomím a skepsí .

AI je teprve takříkajíc " v plenkách". Nelze ji posuzovat jen podle toho, co dokáže teď, tak jako schopnosti člověka neposuzujeme podle toho, co dokáže batole.

jo, je to A (to je OK), ale to B je v tom, či- a ako sa dá ustrážiť to, čo AI dokáže proti mravnosti človeka...už mladí skrze AI páchajú sebevraždy - "vymýšľa" perfektné metódy, ako spáchať "bezbolestne"a rafinovane sebevraždu (proti psychike mladého rozlišovania zla a dobra)....

AI nevymýšlí jak bezbolestně spáchat sebevraždu, jen zpracovává lidské informace o tom a dává je do kontextu.
Základ vznikl v lidské myslí ona to jen sumarizuje. Navíc AI má zakázáno takovéto dotazy zodpovídat.
AL nepřemýšlí a nechápe co říká. Už to konečně pochopte.

"vymýšľa si" som dal do úvodzoviek...všímaj si viac...

Moc dobře napsané. A mě při tom napadá ještě jedna věc, jestli by nebylo dobré, aby firmy, které AI vyvíjejí, nebyly pod nějakou formou kontroly. Ne kvůli tomu, že by technologie byla "zlá", ale protože každá mocná technologie potřebuje jasná pravidla a dohled. Stejně jako máme regulace v medicíně, energetice nebo farmacii, dává smysl přemýšlet i o tom, jak nastavit hranice a odpovědnost u AI. Zatím mi to připomíná alchymii.

Sakra, to je už věčnost, kdy jsem četl RUR, akorát si pamatuji, že se nakonec robot Adam, zamiloval do robota Evy. Takže bych ten závěr příběhu RUR neviděl jako varování před UI.

Ohrožení lidstva epokalypsou je spíš v románu Válka s mloky. Pámátný požadavek Vůdce Mloka na lidstvo. (volně z mé chabé paměti) "Mloci potřebují pobřeží všech pevnin, říční toky, jezera a nížiny, je to jejich přirozený životní prostor a mají na něj nezpochybnitelné právo. Lidé se mohou odstěhovat do hor, tak mlokům prozatím nevadí.". Čapek to psal v době německého nacizmu a náš milý rusák, Vladivoj Ukrutný, kráčí ve stopách mloků.

No v RUR šlo o to, že roboti jsou nakonec vyspělejší než lidé a lidstvo vyhladí. Tím, že se ale i u nich objeví cit - láska, stávají se z nich vlastně také lidské bytosti. Tady končil Čapek jakousi nadějí.

Aha, musím si to osvěžit.

V té době si mohl nechat jen snít o nějaké AI.