*

Ilkka Luoma Vienti- ja ympäristöteollisuuden hyväksi

Tekoäly, koneoppiminen ja robotiikka -teknoihmisyyttä keinotekoisesti

  • Kutistuuko aivomme tällaiseksi chipiksi - tosin 1000 -kertaisella teholla, lopulta? ¤
    Kutistuuko aivomme tällaiseksi chipiksi - tosin 1000 -kertaisella teholla, lopulta? ¤
  • Millainen "kvanttitietokone" tuolla päässä on?  ... Apina - ihminen ja ...? ¤
    Millainen "kvanttitietokone" tuolla päässä on? ... Apina - ihminen ja ...? ¤
  • Onko jotain sellaista - mikä ei ole meille ihmisille tarkoitettu? ¤
    Onko jotain sellaista - mikä ei ole meille ihmisille tarkoitettu? ¤

Tänään kohistaan kolmesta tekijästä – sarjatoistoisesta automaatiosta, tallennetusta, käsiteltävästä ja informaatiovirtojen tiedon digitalisaatiosta sekä motoriset liikeradat hallitsevasta robotiikasta. Kaikki ovat binäärijärjestelmän tuotteita – siis 0' aa ja 1' stä – ei muuta, toistaiseksi.

Perustutkimuksen alueella ovat vasta nyt kvanttitietokoneet [1, joilla on ”taju” yhtäaikaisesta nollasta ja ykkösestä. Kvantitus vie ymmärryskykymme rasitteet äärirajoille; lähestymme olemattomia partikkeleita, joista olemme itsekin koostuneet. Näillä alimmantason [?] kerroksilla energiat ja materiat menevät sekaisin – vai onko niin, ettei siellä pahnan pohjimmaisena ole enää mitään? [!]

 

Entä itse nuo kolme otsikon meille helpommin ymmärrettävää kokonaisuutta?

Pankki- ja vakuutusjärjestelmät ovat alueita, kuten kaikki ne ihmistyölliset toimet, jotka perustuvat kaikin osin digitoidun tiedon massalle – nämä työtehtävät voidaan robotoida, tai oikeastaan automatisoida [+.

Toistaiseksi ei vielä keksitä uutta, täysin uutta – jos sitä yleensä on olemassakaan, tyhjässä – tietohan on olemassa, on kysymys vain sen oivaltamisesta ja poiminnasta!

Tässä kohtaa kiinalaiset ovat käytännöllisiä – ei pidä pyörää ”keksiä” uudelleen, vaan poimia se säällisesti jostain ja sen jälkeen kehittää sitä pienin vääjäämättömin askelin …

[Käytännön mahdollisuus][+ ” … Digitalisaatio avaa sote-palveluihin mahdollisuuden siirtyä hoitosuoritteiden tuottamisesta kansalaisten hyvinvoinnin edistämiseen. Tiedolla johtaminen on huomioitu hallituksen sote-esityksissä, mutta sen toteutuminen on vielä monen mutkan takana

… ” ~ https://www.hs.fi/paakirjoitukset/art-2000005434339.html - ]

 

Eksponentiaalinen kehitysvauhti – kuten tapahtui kellotaajuuksissa ja muistien bittimäärissä

Nyt ollaan vauhdissa, joka vastaa noin puolta oman aivollisen tietokoneemme hyötysuhteesta ja käsittelykykvystä – edelleen suuren osan aivoprosessiemme ollessa tajuntamme ulkopuolella – itse prosessiymmärryksenä. Milloin puhkaisemme tämän ymmärryskaton ja sukeltaudumme omaan kvanttikoneeseemme – olemmeko sittenkin evoluution biogeenisiä koerobotteja?

 

Ajan lyhyen historian kirjoittaja pelkää koneälyn ajavan meistä ohi!

[ … professori Stephen Hawking huolestui näin ~ https://www.mtv.fi/uutiset/ulkomaat/artikkeli/professori-stephen-hawking-pelkaa-tekoalyn-korvaavan-ihmisrodun-olemme-tulleet-pisteeseen-josta-ei-ole-paluuta/6642112#gs.RoOXPIs - … ] **

 

Ote:

” … – Pelkään, että tekoäly korvaa tulevaisuudessa ihmiset. Jos ihmiset suunnittelevat tietokoneviruksia *, joku suunnittelee tekoälyn, joka parantaa ja kopioi itsensä. Näin syntyy Hawkingin mukaan ”uusi elämänmuoto”, joka pystyy päihittämään ihmiset … ”

 

Mietiskelin tähän maallikkokommentoinnin näin:

”... Miten tekoäly lisääntyy, ja miten se korjaa virheensä ja saa energiansa. Jopa tuleva kvanttitietokone tarvitsee energiaa. Ihminen on biologinen robotti ja sitä ohjaa keskeneräisesti ristiriitainen tekoäly. Sellainen äly, joka erkaantui ihmisen kasvu- ja voittopyyteen siivittämänä kauas evoluution vuosimiljoonaisesta harmoniasta.

Ehkä todella olemmekin biosfäärin testirobotteja tekoälyllä, joka meni tuotekehityksessä väärille raiteille?! .... Ovatko yllättäen sodat virheen korjaavia bittejä, joiden tarkoitus on eheyttää tekoälymme ohjelmakaavaa, koska output on aina sotiemme jälkeen:

"Ei enää koskaan" [2? Harmi vain, kun tuo rauhoittava ohjelmakäsky on "loopissa" [3! ... Loop on yhtä kuin silmukka, jossa tapahtuma toistuu niin kauan, kun se saa energiaa ”

** Hawkingin väitöskirja ¨ https://cudl.lib.cam.ac.uk/view/MS-PHD-05437/1 -

[1

Perustutkimusta atomien sisuksissa – energioiden ja materioiden aamuhämärissä – kvanttitietokoneet ---

~ https://www.hs.fi/tiede/art-2000005429709.html -

Ote:

” … Otaniemessä rakennetaan uudenlaista tietokonetta, joka voi jättää supertietokoneet kakkosiksi – kvanttitietokoneen ennustetaan mullistavan maailman -HS otsikko

Aivan uudenlaisen tietokoneen prosessori koostuu kvanttibiteistä eli kubiteista. Kubitti voi olla arkijärjen vastaisesti yksi ja nolla yhtä aikaa. Vain 50 kubitin kvanttitietokone voi mullistaa maailman … Jo vuonna 1981 fyysikko Richard Feynman esitti rohkean idean tietokoneesta, joka laskisi kvanttien avulla. Sellainen tietokone olisi hirmuisen nopea, arvioivat valistuneet fyysikot … ”

 

Maallikon pohdiskelua vaikeasta aiheesta:

”Evoluutio on "laskenut" meille tuntemattomalla tavalla jo viimeiset muutama miljardi vuotta. Sillä on se sama laskentateho edelleen. Evoluution nerokkuus on siinä, ettei se tarvitse hillitöntä laskentatehoa, koska se pinoaa tänään juuri nyt tehdyn uuden aiemman eilisen päälle.

Meille on myös tuntematonta se kuinka evoluutio näkee nyt huomisen. Näkökyky juontuu tuosta pinosta, sillä on tietoja täydellisessä jatkumossa alun yksinkertaisimpaan tilaan, joka oli 0, siis tyhjä!

Evoluution ”ongelma” lienee meidän ihmisten mukaan tulo sellaisella toiminnan kasvavalla kellotaajuudella, jonka "tikitys" on irtautunut (repeytynyt) biosfäärillisestä harmoniayhteydestään. Lopulta kuitenkin on niin, että me ihmiset olemme täysin kiinteä osa biomassaisesta elämänmuodosta, joka rakentaa oivalluksiaan samoille ylätason rakenteille, jotka juontuvat sieltä alimmalta kvanttimaailman tasolta!”

 

Entä työ, jonka Hawking pelkää menetettävän kokonaan koneoppiville roboteille?

Robotit ovat tässä vaiheessa paljolti toistokoneita – vrt. autotehtaiden hitsausrobotit. Robotti on mekaaninen erilaisten jalosteraaka-aineiden yhdistelmä, joka saa käskynsä ohjelmariveistä, jotka ohjelmoitsija tekee sovellussuunnittelijan antamien raamien puitteissa. Ihmisen, itseään tarkastellen on helppo huomata, mitä roboteilta puuttuu.

Kellotaajuus, muistin koko ja rinnakkaisajon monikertaistuminen lisäävät robottien ohjelmallista käyttökelpoisuutta – paljon tapahtumia lyhyemmässä ajassa. Siis enemmän tuotantoa – lyhyemmässä ajassa.

Mikäli raaka-aineita riittää, eikä niiden jalostustoiminta kuin energiankäyttökään tuhoa biosfääriä [4 – on ideaalisesti mahdollista saada yhä useammalle sitä markkinatalouden mukavaa – eli tavaraa! Onko tämä se elämän tavoite ja toiminnan päämäärä – kasvuhoenta, lisää, nopeammin ja useammin …

 

Mitä arvelet meidän tekevän vuonna 2050 – millaista työtä, osaammeko sovittaa kasvaneen vapaa-ajan pyrkimyksiimme kokea onnea ja iloa. Entä hyödyllisyyden tunne ja osallistumisen riemu siten, että saisit tunnustusta ja iloa joukkoon kuulumisesta.

Tekeekö kiihtyvä elämänrytmi meistä ihmisrobotteja, vai olemmeko jo nyt evoluution kokeilurobotti, jonka elinkelpoisuusarviointi on jo ”tuomareiden käsittelyssä” [5?

 

[1 ~ https://www.mikrobitti.fi/2017/06/kvanttitietokone-on-jo-taalla-nain-10-miljoonan-dollarin-laite-toimii/ -

[2 ”Ei enää koskaan!” ~ https://ilkkaluoma.blogspot.fi/2014/10/uskonsotien-suvaitsemattomuutta-risti.html -

[3 ~ Loop! ~ http://www.sanakirja.org/search.php?id=167295&l2=17 -

[4 ~ https://ilkkaluoma.blogspot.fi/2013/02/saikeista-haivahdys-kuolemattomuutta.html -

[5 ~ https://ilkkaluoma.blogspot.fi/2013/05/miksi-kiinalaiset-kehittivat-ihmisiin.html -

 

 

Ilkka Luoma

Kansalaiskirjoittaja Helsingistä

https://ilkkaluoma.blogspot.fi

https://www.facebook.com/first.ilkka

 

US VU T BL BL BL FB FB FB BLOG 155249

 

DOC roboautomaaltio_02112017.doc – OpenOffice Writer

PVM 03112017

 

781_7291

Piditkö tästä kirjoituksesta? Näytä se!

2Suosittele

2 käyttäjää suosittelee tätä kirjoitusta. - Näytä suosittelijat

NäytäPiilota kommentit (42 kommenttia)

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

TORSTAINA, HEINÄKUUTA 24, 2014

Työ teettäjäänsä kiittää - kohti kansalaispalkkaa!

Työ teettäjäänsä kiittää. Ennen tuo otsikko muotoiltiin ”työ tekijäänsä kiittää”. Maailma on muuttunut. Työt ovat vähentyneet, vaikka tekemistä olisi enemmän kuin koskaan. Innokkaimat futuristit ovat laittamassa ihmisen lasikuutioon 1] – ikuiselle lomalle viettämään ohjattua vapaa-aikaa. Robotisaatiosta odotetaan kaiken pelastajaa ja kaikille riittäväsati kaikea [-rafl.] 2] 3]

Suomessa on nyt yli 330.000 työtöntä 4], joista yhä useampi on nuori. Nuorena on vitsa väännettävä ja työ opittava, muutoin ei kuulemma kunnian kukko laula. Nuori haluaisi tehdä työtä 5], mutta kun sitä ei tarjota – tai sitten sellaisella palkalla, että kannattaa olla mieluummin kortistossa. Missä vika? Eikö työ ja halukkaat kohtaa?

...
Me olemme maailmanlaajuisessa työn uudellenjaon taistelussa. Kaukoidän toveri tekee kuudesosapalkalla (huomioiden paikallinen ostovoima ja kustannustaso) samat tehtävät kuin me, ja ehkä vähän enemmänkin – työpaikan menettämisen pelossa. Itäisellä toverilla ei ole niitä työntekijän suojelujärjestelmiä kuin on meillä, ainakaan vielä.

Jatkuu ~ https://ilkkaluoma.blogspot.fi/2014/07/tyo-teettaj... - [155266]

Käyttäjän ToniRintala kuva
Toni Rintala

Hawking on ollut (monesti) väärässä.
Itse ennemmin pelkään ihmisen antavan vajaaälyiselle koneelle liikaa valtaa, kuin liian älykkäälle.

Ja tuo koneen "älykkyyskin" on vain ohjelma jolle annetaan logiikka. Itse en vielä ole kuullut koneesta, joka oikeasti oppii. Se oppiminenkin on ohjelmoitu säännöillä. Mutta maailma on tietysti ihmeellinen.. Enemmän kuitenkin toistaiseksi pelkään ihmisen tekemää ohjelmointivirhettä ja tahallista sabotaasia.

Käyttäjän Ukkram09 kuva
Markku Laitinen

Luin jokin aika sitten, että kaksi tekoälyä oli laitettu keskustelemaan keskenään ja koe oli jouduttu lopettamaan, koska ne muokkasivat kielen sellaiseksi, jota ihminen ei voinut ymmärtää. Samansuuntaisia tuloksia on saatu jutun mukaan muuallakin. On toki vaikea sanoa onko kyseessä oppiminen, mutta olemme vaarallisella polulla.

Kun vertaa ihmisen evoluutiota koneiden evoluutioon, on koneiden kehitys ollut päätähuimaava, ihmisen kehitykseen verrattuna. Eikä kukaan vielä voi tietää mihin kehitys päättyy koneiden osalta.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Meitä ohjaavan evoluution "kellotaajuus" on vakaa, ollut jo pari miljardia vuotta - meidän kehittämien koneiden kellotaajuus kasvaa/ kasvoi taas liki eksponentiaalisesti! (?)

...
Evoluutio

perjantaina, joulukuuta 23, 2016
Opetamme koneälyä, vaikka emme edes ymmärrä evoluution jatkuvuutta

(Tänään on muotisanoina rykelmä: automaatio, digitalisaatio ja robotisaatio – kaikki nämä tarvitsevat jatkuvuutta ohjelmointina. Ohjelmoitu elämä on myös evoluution perusrakenne. Evoluutio on taas päällimmäisempi ohjelmistokerros atomien ja molekyylien ”ikuisessa jatkumossa”, mitkä osaavat korjata ja lisääntyä* alkaen jostain meille toistaiseksi tuntemattomasta rajapinnasta lukien, jossa alkaa kaltaisemme elämä)

Ihmiskunta on kehittänyt itselleen apuvälineitä helpottamaan elämää ja samalla riidellyt itselleen suuremmat ongelmat, mitä koko aiemmasta ihmiskehityksestä ovat syntyneet. 200 vuodessa |1 enemmän ongelmia kuin edellisissä 20.000 vuodessa.

*

”Puolet avaruudesta on jo kadonnut, vaikka se jatkanee ikuista laajenemistaan – lopulliseen tyhjyyteen”

|* ~ https://ilkkaluoma.blogspot.fi/2015/01/elaman-synt... -
~ http://www.tekniikkatalous.fi/tiede/antimateria-at... -

Ihminen luuli olevansa nokkela,

~ https://ilkkaluoma.blogspot.fi/2016/12/opetamme-ko... -

.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Mitä oppi on? Vanhojen tietojen uudelleen yhdistelyä?

...
Uteliaisuus johtaa tietoon, onko - tuleeko robotti olemaan utelias?!

Albert Einstein

TV 1 esitti maanantaina 18.4. 2005 kiehtovan dokumentin tai oikeammin erään kuvitelman ehkä nykyaikamme maineikkaimmasta ihmisestä Albert Einsteinista. Hänen kaava E=mc2 on käynyt lähes kaikkien huulilla sitä tarkemmin ymmärtämättä. 

Einstein oli kiistaton älykkö tieteessä ja hankalikko kotona. Einstein oli juutalainen, jolla meihin nähden oli nuorena kutakuinkin samat lähtökohdat tyydyttää uteliaisuuttaan kuin meillä keskimäärin.

Uteliaisuutta pidetään kiusallisena tai innostavana, 

 ... kuinka milloinkin arvioija haluaa ihmistä määritellä. Lapsi on suunnattoman utelias ensimmäiset elinvuotensa ja sitä pidetään hauskana ja itsestään selvänä ilmiönä. Vanhemmat ovat ylpeitä kehittyvistä lapsistaan, ja nimenomaan tuo uteliaisuus tai tiedon etsintä generoi tyydyttämään tyhjiä kohtia aivoissamme saaden havainnoinnin, oivaltavuuden ja päätelmänteon mahdolliseksi.

Lapsen kasvaessa meille aikuisille syntyy häveliäisyys mielestämme liiasta uteliaisuudesta, 

~ https://ilkkaluoma.blogspot.fi/2005/04/miksi-jotku... - [155297]

Käyttäjän myyrylainen kuva
Jorma Myyryläinen

Rintala väittää koneen "älyn" olevan vain ohjelma jolle annetaan logiikka. Niinnän se alkeellisimmillaan on. Tosin jos ohjelman taustalla oleva logiikka laaditaan oppivaksi ja siten, että se voi muuttaa itse itseään ja muita ohjelmia sen perusteella mitä se havainnoi itsensä käytöstä ja ympäristöstään, ollaan tehty oppiva ohjelma.

Näin on tehty jo vuosikymmeniä ja kehitys kehittyy silläkin alalla.

Jopa minä itse, ollessani nuori ohjelmoijan planttu, koodasin jo 1970-luvun lopulla ihan talous-hallinnollisiin ohjelmiin ratkaisuja joissa ohjelmakoodi muutti itse itseään tarpeen mukaan. Ratkaisut olivat ihan yksinkertaisia sillä käsissäni olleet ratkaistavat tehtävät olivat ihan muuta kuin tekoäly ja tavoitteenani oli vain rajallisista koneresursseista johtuva muistitilan ja koneajan säästö silloisen IBM:n Asembler-kielen keinoin varsinaisesta tehtävästä johtuvassa aikataulupaineessa. Mutta mitä minua välkymmät AI-alan ammattilaiset, voidessaan keskittyä itse asiaan ja ihan toisen luokan työvälineillä saavatkaan aikaiseksi ja ovat jo saaneet sekä tulevat saamaan?

Käyttäjän ToniRintala kuva
Toni Rintala

Ohjelmat toki oppivat datasta, mutta se oppiminen on ohjelmoitu. Sille on annettu logiikka kuinka se dataa käsittelee ja analysoi, millaisia muutoksia se voi tehdä sekä mikä on sen tavoite. Jotenkin se eteneminen ja kehittyminen pitää palkita, jotta tekoäly osaa edetä haluttuun suuntaan. Tulokset on parhaimmillaan näyttäviä.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #12

Lopulta vielä tässä vaiheessa ollaan nollien ja ykkösten immateriaalisessa Boolen ~ https://fi.wikipedia.org/wiki/Boolen_algebra - maailmassa - oikeastaan on kysymys liipaisujännitteistä - transistorien diodiominaisuudesta - 0,2V ja 0,7V - muistaakseni ... nämä päästöjännitteet ovat vain niin hemmetin pienessä fyysisessä tilassa!

Käyttäjän myyrylainen kuva
Jorma Myyryläinen Vastaus kommenttiin #12

Tekoälyn oppiminenkin on, vielä tällä hetkellä, ihmisen ohjelmoimaa logiikkaa mutta kuinka kauan?

Mutta tuo oppimisen ja muun toiminnan tavoitteenasetanta. Sen ohjelmoiminen ja ohjelmoinnin kehittäminen ovat mielenkiintoinen kysymys. Ihmisenkin kyky oppia ja tehdä kaikenlaista on kehittynyt evoluutiossa sukupolvi sukupolvelta. Entä koneilla?

Ihmisen tietoisuus ajaa tietämään enemmän, osaamaan enemmän mutta mikä ajaisi konetta samaan?

Vai käykö niin kuin joissakin scifi-dystopioissa? Joku jossakin vaiheessa muodostaa kehittyneistä algoritmeista kehittyneen ohjelman yhden askeleen "liian" pitkälle ja tuo "mopo lähtee lapasesta" kun se on saavuttanut riittävän oman tietoisuuden kehittää itse itseään eteenpäin nojautuen johonkin yhtä imaginaariseen katsomukseen kuin ihminenkin. Voimmeko edes aavistaa millainen se olisi?

Onko meillä (oik. meitä seuraavilla sukupolvilla) joskus vastassamme Daalekit tai Cylonit vai jotain ihan muuta? Vai onko seurauksena evoluutio jossa maailmankaikkeudessa seikkailee jonkin aikaa sekä ihmisiä että erilaisia tekoälyin itse itsensä varustaneita koneita?

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #22

Ehkä evoluution ennakointi avaa uusia lokeroita, joiden "tieto" tulee näin saataville?

Käyttäjän myyrylainen kuva
Jorma Myyryläinen Vastaus kommenttiin #24

Niin, tuleeko evoluutioon uusia mekanismeja nykyisten mutaatioiden ja luonnonvalinnan rinanlle? Koneiden kyky itse, tietoisesti kehittää perimäänsä, s.o. ohjelmoida "käyttöjärjestelmäänsä"? Pystyykö ihminen vastaamaan siihen? Kuoleeko ihminen sukupuuttoon kun koneiden evoluutio syrjäyttää meidät ekologisesta lokerostamme vai alkavatko koneetkin huolehtia luonnon monimuotoisuudesta ja siten pelastavat ihmisen?

Käyttäjän ToniRintala kuva
Toni Rintala Vastaus kommenttiin #28

"vai alkavatko koneetkin huolehtia luonnon monimuotoisuudesta ja siten pelastavat ihmisen?"

Jotenkin veikkaan, että noita molempia ei voi toteuttaa. Ihminen tuhotaan, jotta luonnon moninaisuus säilyy. Ja siihen ei tarvita edes tekoälyä.

Käyttäjän myyrylainen kuva
Jorma Myyryläinen Vastaus kommenttiin #30

Jospa koneet ottaa ihmisiltä pössykät, autot, lentsikat sunmuut ympäristöä ja toisiamme tuhoavat lelut pois ja sijoittaa meidän erilaisiin luonnonpuistoihin muiden koneiden tai vaikka alienien ihmeteltäviksi?

Tai vaikka lihakarjana torakoiden ja muiden ydintuhosta selviävien eliöiden ravinnoksi? Ihmisen voisi jalostaa vaikka tuottamaan rasvaa muille. Tai verikasvattamoiksi lukuisille hyttyslajeille. Ehkäpä koneiden innovaatio-ohjelmistot kehittävät koko joukon uusia hyödyntämistapoja. Tarvitsee vain hieman laajentaa Chef Watsonia (https://www.ibmchefwatson.com/community).

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #28

On täysin varmaa, että ihminen evoluution yhtenä miljoonista projekteista tulee kuolemaan sukupuuttoon.

Käyttäjän myyrylainen kuva
Jorma Myyryläinen Vastaus kommenttiin #33

Ihmisellä lajina lienee edessään kaksi vaihtoehtoa:
a) sukupuutto oman kehityskaarensa umpiperänä tai
b) kehittyminen edelleen jolloin jotkut, jotakin muuta eliö- tai konelajia olevat tieteilijät joskus tulevaisuudessa pohtivat missä kehityksen vaiheessa ihmisen voidaan todeta vaihtuneen uudeksi lajiksi. Mitkä ovat ne uudelle lajille tyypilliset ominaisuudet joiden perusteella lajittelu voidaan tehdä. Onko ihminen elänyt rinnakkain uuden lajin kanssa ja ovatko ne mahdollisesti risteytyneet keskenään. Liikkuuko jossakin viimeisten korpimaiden kätköissä tai suurkaupunkien viemäreissä vielä viimeisiä Homo sapiens sapiens:eja. Ovatko ne vaarallisia, mitä tauteja ne kantavat. Pitääkö poikaset ja lemmikit pitää sisällä.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #41

Entä evoluution - imperiumin vastaisku"?

SUNNUNTAINA, TOUKOKUUTA 05, 2013

Miksi kiinalaiset kehittivät ihmisiin tarttuvan virusmutaation?

" ... Viruksilla lienee myöskin tehtävä, kuten luulemme meillä olevan

Maailmanlopun maalarit ovat ristineet virukset luonnon lähettiläiksi palauttamaan tasapainon *], jonka ihminen on kiistatta tuhonnut. Verratkaamme esimerkiksi muurahaispopulaatioiden aikaansaannoksia luonnon tasapainoon versus ihminen. Muurahaisia on biomassaltaan noin saman verran kuin ihmisiä; ne ovat asemoituneet taidokkaasti eläen osana kokonaisuutta aiheuttamatta ylimääräistä kuormaa ympäristölleen.

Virukset tekivät omaa "eloansa" soveltuvaksi ja lisääntymiskykyiseksi eilen, ne tekevät sitä tänään ja vielä huomennakin, kun moni nykyinen eliö on poistunut mahdottomana osasena kokonaisjärjestelmästä. Virus evaluoituu kaikin keinoin kuten muutkin; sen tehtävä on jatkaa omaa eloansa sopeutuen ympäristöön.

Ihminen on elon väkevyydessään tuhonnut ympäriltään huomattavat määrät elinkelpoisuutta apuvälineillään ja jumalallisella siunauksella lisääntyä ja täyttää maa. ... "

~ http://ilkkaluoma.blogspot.fi/2013/05/miksi-kiinal... -

...

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Cisco julisti uutta vallankumousta verkkojen maailmaan, kun julkistivat noin reilu kuukausi sitten uusimmat verkkojen verkon itseoppivan koneälyn!

Käyttäjän ToniRintala kuva
Toni Rintala Vastaus kommenttiin #13

Periaatteessa kaikki tekoäly eli vähänkin älykäs ohjelma on itseoppivaa. Itse olen aikoinaan keskittynyt geneettisiin algoritmeihin ja niiden käyttöön parhaan ratkaisun hakemiseksi.

Neuroverkkojakin, eli ihmisen aivoja, matkivat verkot käyttävät Deep Learning-kustannuslaskentaa, eli cost-arvoja. Lisäksi on propagation- ja backpropagation-menetelmiä. Tämä kaikki tehdään ihmisen kirjoittamilla algoritmeilla, joilla on aina oma tehtävänsä palkita halutun tuloksen lähestymisestä.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #18

Kiintoisaa on se, ettemme ole kyenneet ratkaisemaan omaa aivojemme työskentymenetelmää - se lienee varmaa, että prosessi on biosähköinen! (?)

.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Ennen robotisaatiota ---

Maahanmuutto sekoittaa kaikkinensa myös työmarkkinoita

Työtilanteiden löytyessä maahanmuuttajille, se vääjäämättä alentaa kansallista palkka- ja ostovoimatasoa, sillä monet maahanmuuttajat tulevat nimenomaan perustöiden perässä. Siivoojat ja muut suoritetehtävät ovat aloitus omalle uralle ja noiden myötä palkkatasot alenevat.

Olemme hitaasti alenevien palkkatasojen kehityksessä. Lisäksi työtilanteiden karkaaminen edullisempien toverien maihin on tosiasia jo vuosien ajan – hanhiparven lento **] kärvistää monia muitakin!

**] Hanhiparven lento ~ http://ilkkaluoma.puheenvuoro.uusisuomi.fi/152322-... -

...

Käyttäjän TomiVaalisto kuva
Tomi Vaalisto

Kaikki universumin aine koostuu 12 alkeishiukkasesta, neljästä voimaa välittävästä hiukkasesta sekä Higgsin hiukkasesta.
Tuo Higgsin hiukkanen, joka löytyi 99,99 prosentin todennäköisyydellä vuonna 2012, on mielenkiintoinen: se antaa atomien rakennusosasille massan.

Hiukkasten mittaamista vaikeuttaa se, että tietyt ominaisuudet muuttavat luonnettaan juuri sillä hetkellä, kun niitä aletaan mitata. Niels Bohrin mukaan tällöin ei enää voida määrittää hiukkasten paikkaa ja liikettä, koska käsitteillä ei enää ole merkitystä. Siksi ne voivat olla sekä ykkösiä että nollia yhtä aikaa.
Paradoksia pyritään selvittämään maallikoille Schrödingerin kissa -teorialla.

Schrödingerin kissan paradoksi on puhuttanut paljon kvanttimekaniikan ymmärtämiseen pyrkiviä tutkijoita.
Kissan kohtalo on ollut osasyynä mitä mielikuvituksellisempien ratkaisuyritysten keksimiseen ja kvanttimekaniikan tulkintojen syntymiseen. Kissaa itseäänkin on tulkittu paljon ja väärin, joten tutkimus on hyvä aloittaa tutkimuskohteen määrittelyllä – ensin siis selvitän, mikä on Schrödingerin kissa ja miksi se on nostettu pöydälle.
Kolmea tunnetuinta kvanttimekaniikan tulkintatyyppiä (kööpenhaminalainen tulkinta, piilomuuttujateoriat ja multiuniversumiteoriat) vastaan voidaan esittää riittävän voimakasta kritiikkiä, minkä takia ratkaisua kissan paradoksiin on järkevää etsiä muualta. Työssäni tutkin ajatusta, jonka mukaan on mahdollista löytää "tulkinta" kvanttimekaniikalle kvanttimekaniikan sisältä. Kissan kohtalo voidaan selvittää ratkaisemalla idealisoidun pistemäisen kissan (harmonisen oskillaattorin) tiheysmatriisin liikeyhtälö (mestariyhtälö) ympäristössä, jota mallinnetaan lämpökylvyllä. Havaitaan, että ympäristön vuorovaikutus kissan kanssa aiheuttaa dekoherenssiksi kutsutun ilmiön, mikä pienentää tiheysmatriisin koherenssitermejä (ei diagonaalilla olevia) eksponentiaalisesti ajan funktiona.
Dekoherenssiaika (aika, jolloin koherenssitermit ovat pienentyneet e:nteen osaan) riippuu pääasiassa lämpötilasta ja ajasta. Työssäni kävin läpi dekoherenssiajan korkean ja matalan lämpötilan käyttäytymiset sekä pitkän että lyhyen aikaskaalan tapahtumille. Paljastui, että dekoherenssi on erittäin nopea ilmiö, minkä takia sen havaitseminen on todella vaikeaa – itse asiassa dekoherenssin tapahtuminen nähtiin koejärjestelyissä vasta 1990-luvulla.
Tämän selvitystyön jälkeen on helppo ymmärtää, miksi kissa ei olekaan superpositiossa vaan klassisen kaltaisessa tilassa. Kissan paradoksi olikin vain näennäinen paradoksi, joka poistui ilmiön riittävän tarkalla ymmärtämisellä – kissaa ei voi täysin eristää ympäristöstään. Itse asiassa kissan atomien välinen vuorovaikutus riittäisi aikaansaamaan dekoherenssin. Dekoherenssi siis aiheuttaa vastaavuuden kvantti- ja klassisen fysiikan välille.
Dekoherenssin paremmasta ja täsmällisemmästä ymmärtämisestä on hyötyä niin kvanttimekaaniselle perustutkimukselle, kosmologialle kuin sovelluspuolella mahdollisesti joskus rakennettavan kvanttitietokoneen valmistamisellekin. Jatkotutkimuksina olisi mielenkiintoista selvittää, kuinka dekoherenssiaika riippuu vuorovaikuttavien systeemien määrästä ja erilaisista vuorovaikutustyypeistä. Tässä tutkimuksessahan käytettiin yksinkertaisinta mahdollista kissan ja lämpökylvyn välistä kytkentää.
Lähde: http://ethesis.helsinki.fi/julkaisut/mat/fysii/pg/...

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

keskiviikkona, helmikuuta 08, 2017
Evoluution tuntematon järjestelykyky – konekieltä miljoonia vuosia

(Elämme kehityksen virrassa, jokainen nanosekunti meidänkin aine- ja energiaosien sisuksissa käydään muunnosta aiemmasta, mitään huomiseen katsomatta. Ei ole ennustuksia, ei ennakoimista eikä arvailua. On vain kyky soveltaa juuri nyt |1 tilanteeseen aiempaa opittua – tämä on konekieltä miljoonien vuosien takaa)

Miksi me olemme? ”Ajattelen, siis olen” – Rene Descartes, filosofi totesi satoja vuosia sitten. Oliko ajattelu se, joka eriytti meidät pois evoluution muutoin luoman biosfäärin ravintoketjuista. Mikäli näin, niin kysymys kuuluisi meille käsitteellisen Jumaluuden oivalluksesta, ettei se liity meihin. Me olemme kuitenkin vain osa biosfääriä ja lajillinen alaviite sen ylläpitäjän – evoluution |2 – käsikirjoissa.

[1] Helsingin Sanomat julkaisi hätkähdyttävän hienon kirjoituksen huomisesta tänään, kun parantumatonta sairautta kärsivä konekielen ja tekoälyn huippututkija Timo Honkela * halusi ennen paluutaan biosfäärilliseen kiertoon kertoa jotain sellaista, millä voisi olla merkitystä ihmiskeskeisiin jännitteisiin sopeuttajana.

Vastinkommentti itse HS-toimittaja Jaakko Lyytisen tekstiin:
[ ~ http://www.hs.fi/sunnuntai/art-2000005074160.html - ]

”Erinomainen syvämietelmä. Pysähdyttävä oivallus HS - toimittajalta tarttua tilaisuuteen kirjoittaa jotain merkittävää niin itselle kuin muille. Tämä on meille kaikille avaava lukuhetki surullisuudessaan, mutta kuitenkin toivoa herättävästi.

Rohkea loppupäätelmä: Muurahaiset kertovat koneoppimisen, tekoälyn ja kirkkaan tavoite lukittuman huippusuorituksesta - proletariaatin diktatuuri, joka tavoittelee vain suvullisen ja lajistollisen jatkumon katkeamattomuutta. Professori Timo Honkela halusi julkistaa päässä vilisevän tulevaisuusvisionsa, koska oma visioituminen on kirjoituksen mukaan päättymässä - kesken "koneoppisen" ajatusvirran. Off -kytkin häämöttää, ellei jokin meille käsittämätön biosfäärillisen evoluution "ohjelmakäsky" peruuta Off -käskyä "hieman tuonnemmaksi"!” Linkki ~ http://ilkkaluoma.blogspot.fi/2012/01/evoluutio-on...
|* ~ https://fi.wikipedia.org/wiki/Timo_Honkela -

Tähän osaan sopii erinomaisesti Saksan Euroviisuesitys vuodelta 1982 – ”Ein bisschen Frieden” -Nicole
~ https://youtu.be/W9S3YMmIFdw -


Liitämme tähän koneopitun menetelmän mukaan hyppykäskyllä linkin Saalistajiin …

~ https://ilkkaluoma.blogspot.fi/2017/02/evoluution-... -
.

Käyttäjän myyrylainen kuva
Jorma Myyryläinen

Anthony Levandowski kehitteli aiemmin Googlen itseajavaa autoa. Nyttemmin hän on siirtynyt kehittämään AI-uskontoa jossa palvottava jumala olisi tekoaly: https://www.theguardian.com/technology/2017/sep/28.... Todellisuus näyttää matkivan scifiä.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Puhutaan myös universumin käyttöjärjestelmästä ---

" ... Mikään ihmisen apuväline ei osaa lisääntyä, korjata itseään tai kuljettaa perintöä alkujuuriltaan. Meidän tuotantosaavutukset ovat kertakäyttöisiä, kun taas evoluutio on jatkumo kuolemattomana. Me ihmisinä, tuossa ketjussa, olemme vain henkilötunnuksellinen kertakäyttövälitin siirtämään aiemman sukupolven tieto uusille sukupolville. Olemme kierrossa.

Evoluutio osasi jo aikojen alussa tiedon siirron sellaisena, josta me vain voimme uneksia. Jäljelle jää kysymys, mikä synnytti evoluution – tilanteen pakko, universumin käyttöjärjestelmä vai jokin muu, jolle ihmiset vajavaisuudessaan ovat antaneet yleisnimen Jumala – ja kukin uskonto omalla tavallaan. Jotkut puhuvat universumin käyttöjärjestelmästä.   ... "

...

" ... (Tänään on muotisanoina rykelmä: automaatio, digitalisaatio ja robotisaatio – kaikki nämä tarvitsevat jatkuvuutta ohjelmointina. Ohjelmoitu elämä on myös evoluution perusrakenne. Evoluutio on taas päällimmäisempi ohjelmistokerros atomien ja molekyylien ”ikuisessa jatkumossa”, mitkä osaavat korjata ja lisääntyä* alkaen jostain meille toistaiseksi tuntemattomasta rajapinnasta lukien, jossa alkaa kaltaisemme elämä)

Ihmiskunta on kehittänyt itselleen apuvälineitä helpottamaan elämää ja samalla riidellyt itselleen suuremmat ongelmat, mitä koko aiemmasta ihmiskehityksestä ovat syntyneet. 200 vuodessa |1 enemmän ongelmia kuin edellisissä 20.000 vuodessa.

*

”Puolet avaruudesta on jo kadonnut, vaikka se jatkanee ikuista laajenemistaan – lopulliseen tyhjyyteen”

|* ~ https://ilkkaluoma.blogspot.fi/2015/01/elaman-synt... - ... "

~ https://ilkkaluoma.blogspot.fi/2016/12/opetamme-ko... -

.

Käyttäjän myyrylainen kuva
Jorma Myyryläinen

Minua hieman häiritsee tuo digitalisuuteen takertuminen. Siinähän on kyse vain tiedon esittämistavasta sen koneellisessa käsittelyssä. Aikoinaan päädyttiin kuvaamaan tietoa hyväksi käyttäen binääri-algebraa (B'0/B'1) ja n.s. Boolen algebraa (AND/OR/NOT).

Valitettavasti tuo ajattelu on rajoittanut myös algoritmien rakentamista vaikka tuon peruskuvaustekniikan avulla voitaisi kuvata myös analogisempiakin rakenteita ja arvoja.

Toki koneiden rajallinen suoritus- ja tallennuskyky on rajoittanut ratkaisuja mutta ei sen tarvitsisi rajoittaa ajatuksen lentoa, ainakaan enää.

Aivan onnetonta on nyt ruveta puhumaan digitaalisesta ajasta tarkoittaen binäärisyyttä ja kaksiarvologiikkaa kun koneiden kapsiteetit mahdollistavat entistä paremmin laajemmat ratkaisut ja numeroita on käytetty jo vuosituhansia.

Digitaalisuus sananahan tarkoittaa datan esittämistä numeroita eikä se rajoitui vain tiettyihin kantalukuihin perustuvia lukujärjestelmiä (binäärinen, oktaalinen, desimaalinen, heksadesimaalinen t.m.s.).

Oikeampaa ja siten ajatuksia oikeampaan suuntaan ohjaavaa olisi puhua teknisesti koneellisesta, elektronisesta tietojen esittämisestä ja käsittelystä. Oikeastihan kyse on "vain" teknisestä tavasta mallintaa tietoa muotoon jota voidaan automaattisesti ja koneellisesti tallettaa ihmisen ymmärtämästä muodosta, käsitellä ja siirtää sekä esittää ihmisen ymmärtämään muotoon.

Ohjelmoitavat algoritmit tulevat muualta ja sitä meidän pitäisi pohtia. Miten paljon koneiden voidaan antaa niitä muodostaa ja ennenkaikkea asettaa kysymyksiä joita niillä algoritmeillä lähdetään ratkaisemaan. Se ei ole ollenkaan tekninen kysymys jota voitaisi pohtia lukujärjestelmien kautta. Se on filosofinen ja eettinen kysymys.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Digitalisaatio on vain matematiikkaa - luonto on analogiaa, vain loputonta jakoa! Ei numeriikkaa - vain käyriä ja ellipsejä - ympyräkin on muotona esiintymätön, sillä vetovoima rikkoo täydellisen ympyrän ... tai!

Käyttäjän myyrylainen kuva
Jorma Myyryläinen

Totta, matematiikka on vain väline mallintaa todellisuutta, tosin vallan mainio sellainen. Toisaalta kun pudotamme pyöreän esineen tyyneen vedenpintaan tuulettomissa olosuhteissa niin veteen syntyvä aaltoliike toistaa ympyrää. Toisaalta avaruuden kappaleiden elliptiset liikeradat muuttavat kokoajan muotoaan mutta toistavat koko ajan elliptistä muotoa. Molemmat voidaan mallintaa digitaalisesti matemaattisilla malleilla.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #21

Vetovoima komponenttina rikkoo täydellisen ympyrän ... mystisin tapahtuma sattui aikojen aivan alussa - kun täydellinen Big Bang sattui laajentuessaan kohtaan jossain "olematon löysi mitättömän" --- Näin syntyi vetovoima! (?)

...

" ... Ja kaiken alussa oli jokin suuri tapahtuma, jota alkuräjähdykseksi kutsutaan

Syntyi jostain meille käsittämättömästä syystä kahden hippusen välinen vetovoima ja niinpä alkoi muotoutuminen, joka jatkuu edelleen siitä, mistä se alkoikin – siis ennakoinnin huipputapahtuma, mutta millaisin kaavoin, laein ja matemaattisin päätelmin.

Nyt on nähtävissä kiihtyvä laajentuminen, jonka kartta luotiin hetkellä nolla + ”jotain”, jolloin meille se käsittämätön vetovoima syntyi – meillä ei ole mitään täyttä tietoa tuon tihentymiä ja harventumia aiheuttavasta välittäjähiukkasesta, nyt sitä kutsutaan gravitoniksi – jolle toivotaan löytyvän selite supersäieteoriasta.

LINK M-theory ~ https://en.wikipedia.org/wiki/M-theory - ... "

~ https://ilkkaluoma.blogspot.fi/2015/12/tihentymist... -
.

Käyttäjän TomiVaalisto kuva
Tomi Vaalisto

Biologiset rakenteet ovat joko homologisia tai analogisia, mikä riippuu myös kontekstista.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma Vastaus kommenttiin #26

Kuten todettua välimatkaa voidaan pilkkoa ikuisuuksiin asti - ei ole mitään luonnonilmiötä syvimmillään joka vastaisi matematiikan lukuarvoja - ehdottomana määränä - vaikkapa kaksi ... ei ole luonnossa kahta tilaa, on vain välimuotoja loputtomiin!

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

tiistaina, heinäkuuta 09, 2013
Älykkäät robotit korvaavat ihmisen?

9.7.2013 | 06:10 | Ilkka Luoma |
 
Kulttuuri   11 kommenttia
 
ORIG ~ http://ilkkaluoma.vapaavuoro.uusisuomi.fi/kulttuuri/144230-alykkaat-robotit-korvaavat-ihmisen - 

Robotiikan luovaa älykkyyttä?

Tänään on muotia jälleen puhua robotiikasta, älykkäästä sellaisesta. Luotamme ohjelmointikykyymme ja sen mukanaan tuomiin ratkaisuihin löytää harmonia, onni ja autuus – niin työn jakautumisen kuin ansainnankin osalta.
Samalle viivalle robotiikan kanssa on lajiteltunut niin kutsuttu 3D tulostuskin 0] – ratkaisuksi valmistukseen, materiaalivirtoihin kuin työn teettämiseen. Mitä olemme unohtaneet, jotain sellaista, joka ei luontojärjen valona ole auennut oivaltajille, jotka näkivät vain ”metsän toiselle laidalle”?

”Suomalainen insinööri tai muutoin korkeammin koulutettu henkilö ei ole sen parempi kuin huonompikaan kuin esimerkiksi kiinalainen opintoveljensä tai -sisarensa. Työmoraali, tapa tehdä työtä, itsellisyys ja oivalluskyky ovatkin sitten yksilökysymyksiä - ja noita ominaisuuksia kilpailutetaan nyt urakalla, ja maailmanlaajuisesti - siksi tiuhaan töitä siirtyy meiltä muualle. … ”
~ http://ilkkaluoma.puheenvuoro.uusisuomi.fi/123125-tyon-uudelleenjaon-taistelu-osa-ii ---

Luovuuden loppu?
~ http://ilkkaluoma.blogspot.fi/2005/12/luovuuden-loppu.html --- 1]

...
~ https://ilkkaluoma.blogspot.fi/2013/07/alykkaat-ro... - [155323]

.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

2] Automatisoimmeko itsemme työttömiksi ja pelkästään palvelemaan toinen toisiamme?

~ http://ilkkaluoma.puheenvuoro.uusisuomi.fi/129293-automatisoimme-itseamme-tyottomiksi ---

...

Käyttäjän myyrylainen kuva
Jorma Myyryläinen

Ainakin vielä tarvitsemme jossakin määrin ihmisiä viihdyttämään toisiamme. Tosin siinäkin suhteessa kehitys kehittyy: https://www.stara.fi/2017/09/26/vitseja-kertova-se.... Erilaisten kulttuuriheerosten tasolle riittänee vielä kuitenkin matkaa mutta jossakin tullee vastaan kysymys miten viihdyttää koneita. Kuka ja koska luo ensimmäisen Benderin kaltaisen robotin? (http://futurama.wikia.com/wiki/Bender_Bending_Rodr...)

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Automaation myötä palvelemaan toinen toisiamme! ;)

Käyttäjän TomiVaalisto kuva
Tomi Vaalisto

Tuota kysymystä on esitetty yhä uudelleen ja uudelleen.
Otetaan vaihteeksi esimerkki autoteollisuudesta: Fordin kehittämä sarjatuotanto mahdollisti auton hankinnan tavallisillekin ihmisille.
Nyt automaatio on vähentänyt työväen liukuhihnojen ääreltä minimiin, mutta kasvava tuotanto luo työpaikkoja kunnassapitoon, logistiikkaan ja jälkimarkkinointiin.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Paluu menneisyyteen - teemme itsellemme itse sen mitä tarvitsemme - niukkuuden lakien mukaisesti! 3D ...?

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

"Matka Kuubaan avaa silmät – kuinka näin matalaan elintasoon tottuneilla voi olla näin iloinen elämänasenne? ... "

~ https://www.is.fi/matkat/art-2000005432515.html -

...
... Rahahan ei tunnetusti tee onnelliseksi, silti läntistä maalliskuluttajaa ihmetyttää miten kasvuhuutelijan silmin köyhä voi olla iloinen ja onnellinen?! Siinäpä se.

.

Käyttäjän myyrylainen kuva
Jorma Myyryläinen Vastaus kommenttiin #37

Raha ei tee onnelliseksi. Isä-vainaakin opetti aikoinaan niin mutta lisäsi, että rahalla on kuitenkin himpskatin mukava järjestellä asioita.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Lopultahan ei ole muuta kuin tihentymiä ja harventumia (vetovoiman ansiosta) - täydellinen tyhjö kutistaa universumin uuden Big Bangin portille - putkauttaen uuden laajentumisen?

Käyttäjän TomiVaalisto kuva
Tomi Vaalisto

Jos vetovoimalla tarkoitetaan gravitaatiota niin se on heikoin perusvuorovaikutuksista, joita on neljä.
Börjen ja Håkanin välisen vetovoiman syynä väitetään olevan ns. epigeneettinen periytyminen ;)

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Evoluutio on tuominnut nuo vetovoimat katoamaan - sukupolvi toisensa jälkeen. Evoluution tärkein tehtävä on viedä omaa luomiskaaviota eteenpäin - monimaisine lajistoineen.

Käyttäjän ilkkaluoma kuva
Ilkka Luoma

Näiden mustien aukkojen * vetovoima on niin suuri, että ne voivat nielaista itsensä - minne? Yksinkertaista, sillä riittävän suuri vetovoima kääntää eilisen huomiseksi, näin voimme juuri ennen ajallista loppuamme, syöksyessämme "neulanreikään" nähdä koko tuon vajaan 14 miljardia vuotta "silmänräpäyksessä", kunnes juuri ennen neulanreiän pohjaa aika hidastuu nollaan ja jäämme tuijottamaan ainoaa tosiasiaa - äärettömän lyhyttä nyt hetkeä.
Vetovoima on niin jättimäinen, että se käänsi historian tulevaisuudeksi. 
 
...
* ~ http://www.iltalehti.fi/ulkomaat/201703142200085267_ul.shtml - 
.
PS
Mistä lasikuutiosta - miten me sinne päädyimme?

...
~ http://ilkkaluoma.vapaavuoro.uusisuomi.fi/kulttuur... -
.

Toimituksen poiminnat

Tämän blogin suosituimmat kirjoitukset