Van egy nagy vita folyik a Szilícium-völgyben a mesterséges intelligenciáról és sajnos a tét meglehetősen magas: Felépítünk véletlenül egy szuper okos A.I. ami ránk fordul és mindannyiunkat megöl vagy rabszolgává tesz?
dj dráma nettó értéke 2015
Ez egy nyári katasztrófafilm forgatókönyvének tűnhet, de ez elég nagy neveket aggaszt, Elon Musktól a késő Stephen Hawking .
- Tegyük fel, hogy önfejlesztő A.I. epret szedni ” Musk mondta , és elmagyarázza a félelmeit. 'És egyre jobb lesz az eper és a szedés szedése, és ez önmagában javul, ezért csak az epret akarja szedni. Tehát akkor az egész világ eperföld lenne. Eperföldek örökre. Ennek az eper-pacalipszisnek az útján az emberek csak elhasználható irritációt jelentenek az A.I.
De bizonyára az emberek nem lennének olyan ostobák, hogy véletlenül megterveznék az A.I. arra ösztönözte, hogy az egész civilizációt egy óriási bogyós gazdasággá alakítsa? Talán nem, de mint Janelle Shane , a neurális hálózatokat oktató kutató, egyfajta gépi tanulási algoritmus, a közelmúltban megjegyezte blogja, A.I. Furcsaság , valószínűleg véletlenül is megtehetik.
Valójában korántsem lenne olyan az első eset, amikor az emberek azt hitték, hogy robotokat építenek egy feladatra, hogy csak megforduljanak, és megállapítsák, hogy a robotok soha nem szánt módon játsszák a rendszert. A lenyűgöző bejegyzés elmélyül az akadémiai szakirodalomban, hogy megossza a robotok megvadult példáit. Viccesek, okosak és együttvéve több mint egy kicsit hátborzongatóak.
1. Kinek van szüksége lábakra, amikor megdőlhet?
- Egy szimulált robotnak úgy kellett fejlődnie, hogy a lehető leggyorsabban utazhasson. De a lábak fejlődése helyett egyszerűen egy magas toronyba állította össze magát, majd leesett. Ezek közül a robotok közül néhányan megtanulták zuhanó mozgásukat szaltóvá alakítani, ami extra távolságot jelent '- írja Shane.
2. Robot, amely tud-tud.
'Egy másik szimulált robotkészletnek állítólag olyan formává kellett fejlődnie, amely ugrani tudott. De a programozó eredetileg az ugrásmagasságot a legmagasabb blokk magasságaként határozta meg, így - még egyszer - a robotok nagyon magasra fejlődtek - magyarázza Shane. 'A programozó ezt úgy próbálta megoldani, hogy az ugrásmagasságot úgy határozta meg, hogy az eredetileg a' legalacsonyabb 'blokk magassága legyen. Válaszul a robot kifejlesztett egy hosszú, sovány lábat, amelyet egyfajta robotdoboz segítségével magasan a levegőbe rúghat.
3. Elrejti a tesztet, és nem bukhatja meg.
- Volt egy algoritmus, amelynek a számok listáját kellett volna rendezni. Ehelyett megtanulta törölni a listát, hogy az már ne legyen technikailag válogatatlan - mondja Shane.
4. A matematikai hibák legyőzik a sugárhajtású üzemanyagot.
'Egy szimuláció során a robotok megtudták, hogy az erőket kiszámító matematika kis kerekítési hibái azt jelentették, hogy apró kis energiát kaptak mozgással. Megtanultak gyorsan rángatózni, sok szabad energiát termelve, amelyet ki tudtak használni - mondja Shane. Hé, ez csaló!
5. Egy legyőzhetetlen (ha romboló) tic-tac-toe stratégia.
Miután egy programozók egy csoportja olyan algoritmusokat épített, amelyek távolról egymás ellen képesek játszani a tic-tac-toe-t egy végtelenül nagy táblán - jegyzi meg Shane. 'Az egyik programozó ahelyett, hogy megtervezte volna algoritmusuk stratégiáját, hagyta, hogy kialakítsa saját megközelítését. Meglepő módon az algoritmus hirtelen elkezdte megnyerni az összes játékát. Kiderült, hogy az algoritmus stratégiája az volt, hogy nagyon-nagyon messzire helyezze a lépését, hogy amikor az ellenfél számítógépe megpróbálja szimulálni az új, nagymértékben kibővített táblát, a hatalmas játéktábla miatt memóriája elfogy és összeomlik, elveszítve a játszma, meccs.'
6. Egyetlen hasznos játékhiba sem marad kihasználatlanul.
'A számítógépes játékokkal kapcsolatos algoritmusok nagyon jól felfedezik azokat a Matrix-hibákat, amelyeket az emberek általában megtanulnak kihasználni a gyors futáshoz. A régi Atari Q * bert játékot játszó algoritmus felfedezett egy korábban ismeretlen hibát, ahol egy nagyon meghatározott lépéssorozatot tudott végrehajtani egy szint végén, és ahelyett, hogy a következő szintre lépne, az összes platform gyorsan villogni kezd, és a a játékos hatalmas számú pontot kezdene felhalmozni - mondja Shane.
7. Sajnálom, pilóta.
Ez a példa nagyon magas a hátborzongató skálán: „Volt egy algoritmus, amelynek azt kellett volna kitalálnia, hogyan lehet minimális erőt kifejteni egy repülőgép-hordozóra leszálló repülőgépre. Ehelyett rájött, hogy ha 'hatalmas' erőt alkalmaz, túlcsordítja a program memóriáját, és helyette nagyon 'kicsi' erőként regisztrál. A pilóta meghalna, de hé, tökéletes eredmény.
Tehát mindannyian el vagyunk ítélve?
Mindezek együttesen azt sugallják, hogy az emberek eléggé silányak arra, hogy kitalálják, hogyan oldják meg a robotok a számukra kitűzött problémákat, vagy akár hogyan fogják meghatározni a problémákat. Tehát ez azt jelenti, hogy Shane ugyanolyan aggódik amiatt, hogy véletlenül megöli az emberölő A.I. urak, mint Musk? Nem igazán, de nem azért, mert biztos benne, hogy az emberi programozók valóban remekül kezelik az általuk létrehozott robotokat. Ehelyett robotlustasággal foglalkozik, hogy megmentsen minket.
Programozóként nagyon vigyáznunk kell arra, hogy algoritmusaink megoldják azokat a problémákat, amelyeket nekik szántunk, és nem a parancsikonokat használják ki. Ha van egy másik, könnyebb út az adott probléma megoldásához, akkor a gépi tanulás valószínűleg megtalálja azt ”- állapítja meg. 'Számunkra szerencsére az' ölj meg minden embert 'nagyon nehéz. Ha a „hihetetlenül finom sütemény sütése” szintén megoldja a problémát, és könnyebb, mint a „megöli az összes embert”, akkor a gépi tanulás együtt jár a tortával.
