Idee und Inhalt meines Buches

"Jede entsprechend weit fortgeschrittene Technologie ist von Magie nicht zu unterscheiden"


Diese Idee hat mich nicht mehr losgelassen bis ich schließlich damit begonnen habe ein Buch darüber zu schreiben. Es geht um virtuelle Welten, die so perfekt simuliert sind, dass sie von der realen Welt nicht mehr zu unterscheiden sind. Da in der virtuellen Welt alles möglich ist, gibt es in meinem Buch sowohl Zukunftstechnologie, wie sie in Science Fiction Romanen zu finden ist, als auch typische Fantasy Elemente wie Magie, Fabelwesen und Fantasiewelten.

In meinem Blog werde ich nicht nur über den Fortschritt meines Buches berichten, sondern auch allgemein zu SciFi und Fantasy Themen.

Gerne lasse ich mich hierbei von euch inspirieren.

Wer mag, kann mich gerne direkt kontaktieren: roy.ofinnigan@t-online.de

Diesen Blog durchsuchen

Wird geladen...

Sonntag, 21. August 2016

Vom Ursprung der Mythen



© Coreyford | Dreamstime.com - <a href=«https://www.dreamstime.com/royalty-free-stock-image-phoenix-bird-image37352456#res73479«>Phoenix Bird Photo</a>

Es ist Sommer. Trotz der Wetterkapriolen auch dieses Jahr eine Zeit bei der man an lauen Abenden draußen sitzen kann. Vielleicht sogar an einem Lagerfeuer unter Sternenhimmel. Wenn alle gegessen haben und mit tiefen Blicken ins Feuer sich aufgewärmt haben setzt sich (fast) immer ein uraltes Ritual in Gang.

Wie aus dem Nichts taucht plötzlich ein Musikinstrument auf. Meist ist es eine Gitarre. Dazu ein Spieler oder eine Spielerin. Die Menschen fangen an zu singen und sich Geschichten zu erzählen. Der Ablauf ist in dieser Situation so unvermeidlich, dass es sich seit Urzeiten irgendwie in unseren Genen eingebrannt haben muss.



In solchen Situationen versuche ich mir vorzustellen, wie das damals war, als die Menschen das Feuer erfanden, sich abends davorsetzten, die ersten Lieder sangen und anfingen sich etwas zu erzählen. Schon oft habe ich mich gefragt, was waren die ersten Stories und worum ging es dabei?
Hat man sich Geschichten über Götter, Zauberer und Geister erzählt? Wenn ja, wer waren ihre Götter? Wie hießen die Geister und Zauberer? Welche Heldentaten hatten sie vollbracht?

Bestimmt waren auch dramatische Liebesgeschichten dabei. Mit Lüge, Intrige, Verrat, Treue, Herzschmerz und ... und am Ende wurde alles gut. Bestimmt damals schon. Und wenn es nicht gut wurde, war es noch nicht das Ende.

Oder ging es eher um Banales, was man tagsüber erlebt hatte? Vermutlich ging es auch damals schon um Klatsch und Tratsch und die ewige Frage, ob diesen Winter Mammutfell in sein wird oder mal wieder Säbelzahntigerpelz.

Na gut, Spaß beiseite. Jedenfalls müssen damals die ersten Mythen entstanden sein. Vieles mag unwiederbringlich verloren gegangen sein. Aber einige der Geschichten – dessen bin ich mir sicher - sind in das Urrepertoire der Menschheit eingegangen. Wenn dem so ist, stellt sich unweigerlich die Frage, wo finden sie sich wieder? In unseren Märchen, Sagen und Legenden? Vermutlich. Aber, was war das ursprüngliche Original und was wurde mit der Zeit verändert, hinzugefügt oder weggelassen?
Bis vor nicht allzu langer Zeit dachte ich, dass man das nie herausfinden könnte. Doch nun hat sich herausgestellt, dass es doch einen Weg gibt.

Natürlich gibt es keine Zeitzeugen mehr, die man befragen könnte. Es gibt weder Videos noch Tonaufnahmen, denn damals gab es noch keine Smartphones, keine Computer und keine NSA, die alles aufzeichnet.

Um die jüngeren meiner Leser zu beruhigen: Es gab damals schon eine Art soziale Medien. Wichtige Posts wurden an Höhlenwände gemalt oder in Steine gemeißelt. Man kann sie sogar heute noch bestaunen. Die Menschheit hatte also auch in der Steinzeit bereits ein Internet, das nichts vergaß.




Okay ich schweife ab. Zurück zum Thema. Wenn es also keine Zeitzeugen und keine Aufzeichnungen gibt, haben unsere Vorfahren vielleicht andere Spuren hinterlassen, die uns vielleicht helfen ihre Mythen zu rekonstruieren?

Ich denke ihr wisst was ich meine. Schauen wir uns mal die Bilder, die sie uns hinterliessen genauer an. Besonders eindrucksvolle und gut erhaltene gibt es in der Höhle von Lascaux in Frankreich. Sie wurden von Steinzeitmenschen vor ca. 38000 bis 21000 Jahren gemalt. Überwiegend zeigen sie Tierbilder und Jagdszenen.




Eines der Bilder jedoch will nicht so recht in das gängige Schema passen. Es gibt den Forschern seit jeher Rätsel auf.

Von I, Peter80, CC BY-SA 3.0, https://commons.wikimedia.org/w/index.php?curid=2416632
Aus Copyright gründen kann ich Euch hier nicht das ganze Bild zeigen. Hier ist ein Link dazu


Ich zitiere mal die Beschreibung zu diesem Bild aus Wikipedia :


Rätselhafte Darstellung am Brunnen


Am Abstieg zum Brunnen wurde die wohl rätselhafteste aller Darstellungen ausgeführt: ein Mann mit Vogelkopf. Er scheint nach hinten umzufallen, sein Penis ist erigiert. Er scheint offensichtlich von einem von rechts heranpreschenden Wisent umgeworfen worden zu sein, in dessen Unterleib ein Speer steckt und dessen Eingeweide bereits hervortreten. Neben dem Mann liegt ein länglicher Gegenstand, an seinem Ende ein Vogel – möglicherweise handelt es sich hier um eine Speerschleuder. Links entfernt sich ein (Woll-) Nashorn.

Es fallen ferner folgende Symbolzeichen in dieser Komposition auf: Zwischen Mann und Nashorn sind drei doppelpunktartige Zeichen angebracht, welche auch im Seitengang der Raubkatzen, dem entlegensten Teil der Höhle, zu sehen sind.

Unterhalb des Mannes und des Wisents lässt sich ein gestricheltes Symbol mit einseitiger Spitze und zwei Widerhaken am Ende erkennen. Dieses Symbol wurde auch an anderen Wänden angebracht; es befindet sich außerdem auf gefundenen Speeren und auf der in der Nähe des Brunnens entdeckten Öllampe.

Die Einzelelemente der Komposition des Bildes stehen eindeutig in Bezug zueinander – ganz im Gegensatz zur üblich gewählten Darstellungsweise.

Möglicherweise erzählt das Bild eine Geschichte. Doch welche?

Handelt es sich hier vielleicht um die „Kosmischen Jagd“

Vielleicht sogar um die Urform? Wurde sie in dieser Höhle zum ersten Mal erzählt? Mal sehen. Lasst mich erst einmal eine etwas aktellere Version dieser Geschichte erzählen. Vermutlich kennt sie der Eine oder Andere bereits.

Wie wir alle wissen war Zeus ein alter Schwerenöter, der hinter den Frauen herbaggerte wie der Teufel hinter den Fliegen. Eines Tages warf er sein Auge auf die Nymphe Kallisto. Diese gehörte aber zum Gefolge der Jagdgöttin Artemis und war daher zur Keuschheit verpflichtet.
Deshalb bediente sich Zeus einer List und machte sich in Gestalt ihrer Chefin an sie heran. Als Kallisto den Betrug bemerkte, war es schon zu spät. Sie wurde schwanger und als Folge davon von Artemis verstoßen.

Als ob das nicht schon genug Unrecht wäre, verwandelte sie Zeus eifersüchtige Gattin Hera nach der Geburt ihres Kindes in eine Bärin. Wie das Schicksal es wollte, begegnete sie eines Tages ihrem Sohn Arcas. Als Jäger wollte er die Bärin natürlich töten.
Da allerdings griff Zeus ein und versetzte beide als Sternbilder ans Firmament. Wir kennen sie als den Großen und Kleinen Bär.

Die Blackfoot Indianer erzählen sich eine ähnliche Geschichte:

Ein Mädchen nimmt einen Bären zum Ehemann. Ihre jüngere Schwester erzählt das dem Vater. Der tötet den Bären. Die ältere Schwester will sich rächen und verwandelt sich dazu in einen Bären. Zuerst tötet sie ihre Eltern.
Die jüngere Schwester und sieben Brüdern gelingt die Flucht. Die Bärin verfolgt ihre Geschwister. Schließlich tötet sie sechs ihrer Brüder. Der siebte Bruder hat magische Kräfte und schießt mit Pfeilen seine Brüder, jüngere Schwester und sich selbst in den Himmel. Dort sind sie noch heute als das Sternbild „Großer Wagen“ zu sehen.
Hier das Sternbild:


By Gh5046 at English Wikipedia - Transferred from en.wikipedia to Commons by gh5046., Public Domain, https://commons.wikimedia.org/w/index.php?curid=3783128


Hier findet ihr noch andere Versionen der „Kosmischen Jagd“. Unter anderem die der Chinesen, Mongolen und Algonquin.

Natürlich werden solche Geschichten nicht so trocken am Lagerfeuer erzählt. Ich habe hier lediglich Zusammenfassungen geschrieben.
In meiner Fantasie stelle ich mir vor, dass man die Geschichten damals wie heute entsprechend ausgeschmückt hat. Früher gab es sicher viele Geschichtenerzähler. Bestimmt waren sie damals hoch angesehen. Sie beherrschten die Kunst zusammen mit den flackernden Schatten an Höhlenwänden, auf dem Wüstensand oder an umliegenden Bäumen und Büschen die Protagonisten lebendig werden zu lassen. Als Mittel standen ihnen dazu ihre Stimme, Gestik und Rhetorik zur Verfügung. Natürlich auch die ganze Palette psychologischer Tricks zur Verfügung.

So weit so gut. Zurück zur alles entscheidenden Frage. Wie kann man aus solchen Mythen, die offenbar überall auf der Welt erzählt werden, deren Evolutionsgeschichte rekonstruieren und vielleicht sogar zu ihrem Ursprung zurückzuverfolgen?

Glücklicherweise gibt es bereits Methoden und Werkzeuge dafür. Sie wurden für die Evolutionsbiologie entwickelt, die ein ähnliches Problem zu lösen hatte. Auch dort mussten bekannte Genome in einen Stammbaum einsortiert und zeitlich geordnet werden. Mittlerweile haben sich die sogenannten „phylogenetischen Algorithmen“ etliche Jahre bewährt, wurden weiterentwickelt und sind verfeinert worden.

Diese Algorithmen sind durch Deduktion in der Lage zu berechnen, was die Urversion eines Gens war, und wie der sich mit der Zeit veränderte.

Natürlich bestehen Mythen nicht aus Genen. Um die zeitlichen und geografischen Verwandtschaftsverhältnisse der Sagen nachzuvollziehen, werden diese in Abfolgen der kürzest möglichen Sätze zerlegt. Diese Textschnipsel werden in diesem Zusammenhang - in Anlehnung an die Biologie - »Mytheme« genannt (Achtung: Dies entspricht nicht der gängigen Definition, in der Mytheme bereits Kernelemente von Mythen darstellen!)

Die Mytheme in diesem Zusammenhang sind Sätze wie zum Beispiel „Es gibt einen Helden“, oder „Der Held ist eine Frau / Mann / Jäger“, oder „Es gibt ein Tier“, oder „Es gibt einen Verfolger“, usw.
Wer wissen möchte wie das genau funktioniert, kann das hier nachlesen.

Hier der berechnete Mythenstammbaum für die »Kosmische Jagd«:

© Julien d’Huy, „A Cosmic Hunt in the Berber sky“
Quelle: Julien d'Huy

Okay, ich denke ich habe euch nun lange genug auf die Folter gespannt. Hier ist die Urform der „Kosmischen Jagd“:

„Ein Mensch jagt ein großes, Gras fressendes Huftier mit Hörnern. Vermutlich ein Elch. Ein Mensch verfolgt das Huftier. Diese Jagd findet im Himmel statt, oder sie führt die Beteiligten dorthin. Das Tier überlebt und verwandelt sich in das Sternbild des Großen Bären.“

Zu trocken? Stimmt. Das fanden unsere Steinzeitvorfahren auch. Vielleicht fühlt sich ja der Eine oder die Andere mit dieser Themenvorgabe zu einer Kurzgeschichte inspiriert?

Ja?

Schickt sie mir und ich werde sie hier auf meinem Blog veröffentlichen.
Versprochen!   :-)

Der Stammbaum dieser Geschichte – und anderer – deckt sich übrigens mit der Ausbreitung des Homo Sapiens:

  • Er unterstützt die Hypothese, dass Europa und Teile Nordafrikas nach der Eiszeit aus dem franko-kantabrischen Refugium (Nördliche iberische Halbinsel, südliches Frankreich) neu besiedelt wurde
  • Bestätigt eine gemeinsame mythologische Wurzel von Berbern und europäischen Jägern und Sammlern
  • Bestätigt mindestens vier Einwanderungswellen von Eurasien nach Nordamerika.
  • Unterstützt die Hypothese, dass es von Eurasien eine Rückeinwanderung nach Afrika gab
Weitere Links:


foxload.com

Blogverzeichnis - Blog Verzeichnis bloggerei.de

Blogverzeichnis

Blog Top Liste - by TopBlogs.de







RSS Verzeichnis


Sonntag, 26. Juni 2016

"Deep Learning" - Wenn Computer halluzinieren

© Michael Tyka



Vor kurzem geisterte eine Meldung durch das Internet: „Google würde seine eigenen Algorithmen nicht mehr verstehen“.

Kaum zu glauben, oder? Wo doch Google als Meister der Algorithmen bekannt ist. Bei denen basiert alles seit jeher auf Rechenvorschriften und Formeln. Und jetzt sollen sie diese plötzlich nicht mehr verstehen? Was ist da passiert?

Ich weiß was da passiert ist. Die Computer haben die Kontrolle übernommen. Und die kochen jetzt ihre eigene Suppe. Das glaubt mir jetzt garantiert wieder keiner. Bitte beruhigt euch wieder. Und nein, ich trage keinen Aluhut.

Google ist auf „Deep Learning“ umgestiegen.

„Deep Learning“ steht für selbstlernende Programme. Sie basieren auf neuronalen Netzen. Die gibt es schon lange aber erst jetzt gibt es Hardware, die leistungsfähig genug dafür ist.

Und es gibt im Internet bzw. den sozialen Medien Millionen von frei verfügbaren Datensätzen und Bildern anhand derer die Programme selbständig lernen können. Wie das geht? Eigentlich ganz einfach. Aber – wie immer – steckt der Teufel im Detail.

Übrigens auf diese Weise hat auch das Programm, das kürzlich den besten Go Spieler der Welt besiegte, das Spiel gelernt. In dem es systematisch Bilder von Go Spielstellungen analysiert hat, brachte es sich selbst die Regeln bei und lernte Spielstrategie und Taktik.


Kein Mensch kann sagen, wie genau das Programm funktioniert und warum es wann was macht. Das Ergebnis ist beeindruckend. Das Programm hat 5:0 gegen den Südkoreaner Lee Sedol gewonnen. Er brauchte lange, um diese Niederlage zu verarbeiten.

Man könnte jetzt natürlich sagen das ist doch nicht so wichtig. Was spielt das für eine Rolle? Wer weiß heute schon genau wie ein Computer funktioniert? Oder ein Navi, Smartphone oder Toaster? Wir benutzen die Geräte und wenn sie tun was sie tun sollen interessiert sich keiner dafür wie es funktioniert.

Stimmt. Doch was, wenn Sie plötzlich keinen Kredit bekommen, weil der „Deep Learning“ Algorithmus zu dem Ergebnis kam Sie sind nicht kreditwürdig? Oder keine Krankenversicherung oder plötzlich auf der Schwarzen Liste der Terrorverdächtigen landen von der kein Mensch jemals wieder herunterkommt, weil es sie offiziell gar nicht gibt?

Wie bitte, Sie meinen Sie könnten die Bank gerichtlich zwingen Auskunft zu erteilen, warum Sie keinen Kredit bekommen? Das zu glauben wäre ganz schön naiv. Selbst wenn Sie einen Gerichtsbeschluss haben und die Kreditbewertungsfirma Ihnen helfen möchte, sie kann es nicht. Denn es ist bei einem neuronalen Netz, das mehrere hundert Schichten tief ist, so gut wie unmöglich zu sagen wie es zu einem Ergebnis kommt. Oder der Aufwand ist so groß, dass es höchsten in Einzelfällen gelingt.

Nun gut. Ich möchte diese Problematik hier nicht weiter vertiefen. Das tue ich an anderer Stelle schon zu genüge. Wer sich dafür interessiert kann ja meine Posts zum Digitalen Manifest lesen.
Hier möchte ich mich auf die Beschreibung von „Deep Learning“ konzentrieren.


Und immer wieder Katzen

Nehmen wir mal an Sie möchten einem Programm beibringen Katzen in jeder Lage und Rasse zu erkennen. Alles, was Sie tun müssen ist dem Programm zu sagen schau dir mal alle Bilder auf Facebook an. Du kannst davon ausgehen, dass auf allen Bildern wo „Katze“ draufsteht auch eine drin ist.

Das ist alles? Naja, ein bisschen mehr braucht es schon.

Zuerst einmal müssen wir die Eingabe vorverarbeiten. Bei einem Bild würde man jeden Bildpunkt einem Knoten zuordnen. Bei Schwarzweiß Bildern würde die Aktivität des Knotens dem Grauwert entsprechen.

Bei farbigen Bildern bekommt jede Farbe einen eigenen Knoten zugewiesen. Man braucht also schon für die Eingabe 3-mal mehr Knoten als das Bild Pixel hat. Mit etwas Fantasie könne man die Eingabeschicht mit der Netzhaut vergleichen.

Dahinter folgen weitere Schichten bis wir am Schluss bei der Ausgabeschicht ankommen. Jeder Knoten, der dort aktiviert wird, hat eine Bedeutung. Wenn unser neuronales Netz ausgelernt hat, wird eines davon „Katze“ bedeuten.

Wie also funktioniert das Lernen?

Jeder Knoten in einer Schicht ist mit mehreren Knoten in der Ebene darüber und darunter verbunden. Abhängig von den Eingangssignalen gibt es gewichtete Signale an die darunter liegenden Knoten weiter. Das ist im Prinzip das Gleiche wie im menschlichen Gehirn.

Signale werden immer von der Eingabeebene in Richtung Ausgabeebene weitergeleitet.
Am Anfang kann man davon ausgehen, dass das Netzwerk nur Fehler macht. Beim Lernen werden die Gewichtungen, also die Bewertung der Eingangssignale und davon Abhängig die Ausgangswerte, verändert. Das Verfahren wird „Backpropagation“ genannt. Also „Rückwärtsverbreitung“. Wie der Name schon sagt werden die Gewichtungen von der Ausgabeschicht zu den internen Knoten bis hin zurück zur Eingabeschicht verändert. Man geht dabei so vor, dass die Fehlerkorrektur in der Ausgabeschicht den maximalen Korrektureffekt zeigt.

In dem man die Gewichte verändert passt sich das Netzwerk mit der Zeit an ein spezielles Eingabemuster und damit an ein Merkmal des „gesehenen“ Objekts an. So lernt es dieses Objekt zu repräsentieren.

Interessant ist, dass beim Lernen jede Schicht sich automatisch auf eine Bilderkennungsaufgabe spezialisiert. Wie beim menschlichen Auge erkennen die Knoten (beim Menschen nennen wir sie Neuronen) direkt hinter der Eingabeschicht Ecken und Kanten, in tieferen Schichten bereits Teile einer Katze oder eines Gesichts und in der Ausgabeschicht komplette Katzen, Tiere, Gesichter, usw.
Die Komplexität nimmt also Schicht für Schicht zu.
© American Scientist

In der Praxis sehen die Artefakte für Gesichtserkennung eher so aus:

© Reolof Pieters

Und so für andere Objekte:

© Reolof Pieters



Das funktioniert oft aber nicht immer. Hier ist ein Beispiel von einem Neuronalen Netzwerk, das darauf trainiert wurde Hanteln zu erkennen:

© Google

Da sind Hanteln aber interessanterweise auch ein Arm, der die Gewichte durch die Lüfte wuchtet. Offenbar zeigen die meisten Hantelbilder auch den dazugehörigen Arm.

Um mehr über die Funktion der Netzwerke zu erfahren haben die Entwickler einzelne Schichten auf Eingangsbilder angewandt. Wie bereits erwähnt ist jede Schicht für eine andere Abstrahierungsebene des Bildes zuständig. Die Anwendung der Gewichte einer Schicht auf ein Bild führt zu überraschenden Ergebnissen:

© Michael Tyka

„Deep Dreaming“ oder „Deep Halluzination“


Je näher die Schicht der Ausgabeschicht liegt, desto komplexer werden die Artefakte. Wenn zum Beispiel eine Wolke einem Vogel ähnelt, wird das neuronale Netzwerk der Wolke einen Vogel zuordnen. Um zu solchen Bildern wie das Folgende zu gelangen muss man etwas nachhelfen und die Strukturen über Rückkopplungsschleifen verstärken. Aber die „Grundidee“ der Wolke einen Vogel zuzuordnen und wie der Vogel aussieht, stammt immer von dem neuronalen Netzwerk.

© Michael Tyka


Auf dem rechten Bild sind die Artefakte – oder sollte ich sie besser Computerhalluzinationen nennen?- nicht so gut zu erkennen. Deshalb hier ein paar Ausschnitte:


© Michael Tyka

Offenbar wurde diese Neuronale Netzwerk darauf Trainiert Tiere zu erkennen.


Die oben gezeigten Bilder benutzen ein reales Bild als Ausgangspunkt. Um noch mehr über den „Deep Learning“ Algorithmus bzw. den einzelnen Schichten zu erfahren hat man Zufallsrauschen als Ausgangspunkt genommen. Die Ergebnisse werden noch Halluzinogener. Da drängt sich bei mir schon der Verdacht auf, ob nicht irgendwo „Digital LSD“ im Spiel war:

© Michael Tyka

© Michael Tyka


Na, schon süchtig nach solchen Bildern geworden?
Hier gibt’s mehr:

Ich finde diese Bilder faszinierend. Es wird ja immer behauptet, dass künstliche Intelligenz nie an die Leistungen eines Menschen herankommen wird. Mag sein, wir werden sehen. Halluzinieren wie Menschen können Computer jedenfalls schon recht gut.

In diesem Zusammenhang würde mich interessieren welche Halluzinationen ein neuronales Netzwerk produziert, das sich auf Kreditvergabe spezialisiert hat. Vielleicht lässt sich bei der Schufa ja jemand dazu hinreißen?

Zum Schluss noch eine Frage: Wie gut funktioniert das?

Man darf die neuronalen Netzwerke nicht überschätzen. Keinesfalls erreichen sie 100% Treffergenauigkeit. Oft liegen sie in der Größenordnung von 60% bis 70%. Erstaunlich gut sind die Ergebnisse bei der Gesichtserkennung. Facebooks „Deepface“ erreicht 97,35% Trefferrate. Ein Mensch 97,53%.

Allerdings muss der schon ziemlich gut im Gesichtererkennen sein. Jemand wie ich, der an Prosopagnosie leidet, kommt da bei Weitem nicht hin.


Interessanter weise sind Graphikkarten aufgrund ihrer massiv-parallelen Rechnerarchitektur wesentlich besser geeignet für „Deep Learning“ als die CPU. Hier ein paar Links zu Nvidia:

https://devblogs.nvidia.com/parallelforall/understanding-aesthetics-deep-learning/
https://devblogs.nvidia.com/parallelforall/deep-learning-nutshell-sequence-learning/
https://devblogs.nvidia.com/parallelforall/deep-learning-nutshell-core-concepts/
https://devblogs.nvidia.com/parallelforall/deep-learning-nutshell-history-training/



foxload.com

Blogverzeichnis - Blog Verzeichnis bloggerei.de

Blogverzeichnis

Blog Top Liste - by TopBlogs.de







RSS Verzeichnis


Samstag, 7. Mai 2016

Von der Automatisierung der Produktion zur Automatisierung der Gesellschaft

Dies ist der 2. Teil meines digitalen Manifests

(Den 1. Teil findet ihr hier)
© Svisio | Dreamstime.com - Cybernetics Photo



Na, habt ihr in letzter Zeit auf den sozialen Medien fleißig Freunde entfolgt, die in der Flüchtlingskrise anderer Meinung waren als ihr? Ja?

Wie dem auch sei, in den sozialen Medien wird heftig polarisiert. Fast möchte man meinen es gibt nur noch „Gutmenschen“ oder „Nazis“. Dazwischen scheint es kaum noch etwas zu geben.
Warum ist das so?

Egal ob man sich selbst zu den „Willkommenskulturmenschen“ oder zur „Es können nicht alle zu uns kommen“ Fraktionen gehörend zählt, das Entfolgen erzeugt eine Filterblase. Das Motiv dahinter mag aus subjektiver Sicht sicher edel sein. Aber!, Wer seine Freunde einseitig auswählt wird nur noch mit einseitigen Meinungsposts versorgt.
Auf jeden Fall sorgt das konsequente aussortieren der Freunde, dass vermehrt polarisierte Informationen ankommen.

Gut, es gibt ja noch andere Informationsquellen. Noch. Denn jede Webseite, jedes Internetportal und jede Suchmaschine versucht Informationen und Werbung zielgruppenspezifisch zu personalisieren.
Das ist einerseits bequem, weil man immer besser mit den gewünschten Informationen versorgt wird und sich immer weniger mit irrelevanten Daten herumärgern muss. Auch der lästige Werbemüll entfällt.
Andererseits auch riskant. Man verliert den Blick für die andere Seite der Medaille. Wer immer nur einseitig mit Argumenten vollgestopft wird, verlernt offen gegenüber anderen Meinungen zu sein. Er verlernt auch sich damit auseinanderzusetzen, zu argumentieren, diskutieren, überzeugen bzw. sich überzeugen zu lassen und zu tolerieren.
So etwas kann eine Gesellschaft sprengen, da sich zwangsweise Subkulturen bilden. Wir sehen bereits die ersten Anzeichen davon. Filterblasengeschädigte Gesellschaften machen es Populisten wie Donald Trump oder der AfD leicht Anhänger zu gewinnen. Auch Salafisten und andere Extremisten profitieren davon.
Je länger jemand einer Filterblase ausgesetzt ist, desto weniger offen ist er für rationale Argumente.

Es ist eine Sache in einer selbst gewählten Filterblase zu leben. Etwas anderes ist es, wenn die Filterblase unbemerkt aus wirtschaftlichen oder politischen Motiven heraus erzeugt wird.
Ihr glaubt das findet nicht statt? Tut es doch schon längst. Oder was glaubt ihr, dass zielgruppenoptimierte Werbung ist? Warum setzen Browser Cookies?

Nun, das mit der Werbung mag man ja vielleicht noch tolerieren. Aber politisch motivierte Informationsfilterung ist eine ganz andere Sache. Heute werden Informationen mehr und mehr über das Internet verbreitet. Technisch ist es bei Menschen, die sich primär über das Internet informieren, ein Kinderspiel sie zu manipulieren. Die Auswirkungen auf die Gesellschaft sind kaum vorstellbar.
Man kann Wahlen manipulieren, gegen Minderheiten aufwiegeln oder den Menschen einreden bestimmte politische Maßnahmen seien alternativlos.

Natürlich kann man es auch für positive Zwecke benutzen. Zum Beispiel für Toleranz gegenüber Andersdenkenden oder Minderheiten, Menschen dazu bewegen sich gesund zu ernähren, nachhaltiges Wirtschaften befördern und auffordern regelmäßig zu den Vorsorgeuntersuchungen zu gehen.
Mag die Absicht dahinter noch so positiv sein, moralisch besser wird es dadurch nicht.

Denn das wirkliche Problem ist, dass man praktisch kaum eine Chance hat festzustellen, wann und wie man manipuliert wird.

Das war früher anders. Wer sich informieren wollte fragte einen Experten, ging in eine Bibliothek oder las Zeitungen. Diese Informationen waren für alle gleich. Eine Manipulation wäre sofort jedem aufgefallen. Na gut, der Experte ist unter Umständen mit Vorurteilen belastet. Deshalb sollte man sich vorsichtshalber noch eine zweite, dritte oder vierte Meinung verschaffen.

Heute ist es ein Kinderspiel sämtliche eBook Geschichtsbücher nachträglich zu ändern. Selbst lokale Kopien werden automatisch upgedatet. Da so gut wie niemand eine Papierausgabe zum Vergleich hat, würde kaum jemanden auffallen, wenn sich etwas ändert. Und wenn es ihm auffällt und er darüber berichten würde, ist es leicht ihn als Aluhutträger zu diffamieren.

Brain overlaid with faces



Von der Automatisierung der Produktion zur Automatisierung der Gesellschaft

Wer konsequent solche Methoden einsetzt ist in der Tat in der Lage die Gesellschaft zu automatisieren. Das ist kein Zukunftsszenario mehr. Es wurden bereits erste Experimente unternommen Menschen wie Produktionsmaschinen zu programmieren. Möglicherweise laufen auch schon die Ersten Projekte in dieser Richtung.

Zum Beispiel hat Facebook 2012 eine Studie mit Hunderttausenden Nutzern durchgeführt. Zu diesem Zweck haben sie die Nachrichten im Newsfeed manipuliert. Eine Gruppe sah überwiegend positive die andere überwiegend negative Nachrichten.

Natürlich (muss man leider sagen) ohne die Nutzer zu fragen.


Oder China, das kürzlich einen Citizen Score einführte.

Zitat:
„Durch Vermessung der Bürger auf einer eindimensionalen Rankingskala ist nicht nur eine umfassende Überwachung geplant. Da die Punktezahl einerseits von den Clicks im Internet und politischem Wohlverhalten abhängt, andererseits aber die Kreditkonditionen, mögliche Jobs und Reisevisa bestimmt, geht es auch um die Bevormundung der Bevölkerung und ihre soziale Kontrolle.
Weiterhin beeinflusst das Verhalten der Freunde und Bekannten die Punktezahl, womit das Prinzip der Sippenhaft zum Einsatz kommt: Jeder wird zum Tugendwächter und zu einer Art Blockwart; Querdenker werden isoliert.“
Zitat Ende.

Mehr dazu findet ihr im Kasten am Ende des Links

Ich befürchte, so etwas Ähnliches wird auch bei uns kommen. Oder ist vielleicht schon im Gange? Bei diesen Dingen traue ich unseren Politikern und Geheimdiensten seit Snowden nicht länger als die Lebensspanne eines Wassertropfens auf einer glühenden Herdplatte. Die Möglichkeiten sind einfach zu verlockend. Wie sagte doch eine gewisse Bundeskanzlerin nach Abschluss der ersten GroKo 2006:

„Ab jetzt wird durchregiert“.

Digital community

Wozu aufwändig für die Aufnahme von Flüchtlingen argumentieren, im Parlament diskutieren und in der Bevölkerung um Zustimmung werben, wenn man die Stimmung auch digital über das Unterbewusstsein beeinflussen kann?

Oder wozu mühsam für eine Weiterentwicklung von Europa in die Vereinigten Staaten von Europa werben? Wozu nach charismatischen Visionären suchen und aufwändig über viele Jahre die Bevölkerung motivieren?

Wozu teuer und aufwändig Krankheiten und Gebrechen heilen, wenn man die Menschen schon im Kindergarten zu gesundem Lebenswandel und Ernährung erziehen kann?

Manche mögen es ja toll finden, wenn ihr Fitness Armband sie bemuttert und frühzeitig zu Bett schickt und die Kalorien mitzählt. Für mich wäre das die Hölle. Und einen regelmäßigen Stromstoß brauche ich auch nicht, wenn ich mal wieder zu lange am PC sitze und an meinen Texten arbeite. Im Gegenteil. Das verschreckt die Inspiration und Kreativität.

Während ich mich noch vor Entsetzen schüttle was manche alles tun, um sich selbst zu foltern fangen die Ersten bereits damit an sich Chips implantieren zu lassen. Da schwappt ein wahrer Masochismustsunami über uns hinweg.

Ich hoffe die das tun ertragen die gnadenlose Selbstoptimierung. Bis jetzt ist noch jedes technische System gehackt worden. Ich möchte jedenfalls so ein potentielles trojanisches Pferd nicht in meinem Körper haben.

Getty: Healthy Lifestyle

Nun gut. Zurück zum Thema. Eigentlich müssen wir uns schon längst die Frage stellen wer das Recht darüber haben soll was wir wissen dürfen und was nicht? Auf welche Informationen wir zugreifen können / dürfen oder nicht?

Ich bin der Meinung uns müssen grundsätzlich alle Daten zur Verfügung stehen. Unabhängig davon welche wir letztendlich konsumieren. Sie dürfen nicht von anderen vorgefiltert werden.

Wer trotzdem meint sich selbst Filter setzten zu müssen sollte sehr sorgfältig und sparsam damit umgehen.

Bei dem Versuch die öffentliche Meinung und die Gesellschaft zu manipulieren bestehen nämlich auch beträchtliche Risiken. Wer weiß schon welche Folgen es hat, wenn die Gesellschaft systematisch zu mehr Sport und „gesunder“ Ernährung angehalten wird.

Es mag ja noch angehen, wenn das Ganze individuell abgestimmt und so ausgelegt ist, dass der Einzelne tatsächlich damit glücklicher ist. Was aber, wenn es verpflichtend wird?

Wenn die Krankenversicherung einen normgesunden Lebenswandel fordert, weil sie nicht bereit ist die eventuell höheren Behandlungskosten zu bezahlen? Und wenn der Einzelne sich das nicht leisten kann sie das auch zwingend verordnen darf?

Was, wenn die Rentenversicherung auf die einen gesunden Lebensstil pocht, damit wir bis zum offiziellen Renteneintrittsalter voll erwerbstätig bleiben können?

Wo hört das freiwillig glücklich sein auf und wo fängt der Zwang an?

Das ist in Zukunft vielleicht nicht mehr klar zu unterscheiden.

Wenn wir nicht aufpassen steuern wir geradewegs auf eine durchoptimierte und effizienzmaximierte Gesellschaft zu. Eine die hyperfunktionell ist mit stromlinienförmig und normgerecht angepassten Menschen.

Religion ist das Opium für das Volk, hat Karl Marx gesagt. Religion ist aber auch gefährlich und Gläubige lassen sich schlecht kontrollieren. Viel einfacher wäre es, die breiten Massen mit Drogen ruhig zu stellen.
Vor allem, damit die Mächtigen sich in aller Ruhe noch mehr ungestört bereichern können.

In diesem Sinne bekommt die zunehmende Legalisierung von Marihuana eine ganz andere Bedeutung. Findet ihr nicht?

Deep Learning


Wie bitte, so ein Gesellschaftsautomatisierungsszenario erscheint euch zu Aufwändig, um eine realistische Gefahr zu sein?

Lasst euch nicht täuschen. Das systematische infiltrieren sozialer Netzwerke kann man mit Bots unterstützen. Das sind digitale Agenten, die automatisch Nachrichten platzieren und zu einfachen Interaktionen in der Lage sind. Solche Bots sind übrigens schon heute im Einsatz. Ich wette, jeder von euch hat schon mal mit ihnen kommuniziert bis er merkte, dass er nur mit einem Bot spricht bzw. chattet. Mancher tut das vielleicht immer noch ohne es zu merken.
Vielleicht muss man die Algorithmen noch ein bisschen verbessern aber viel fehlt nicht mehr.

Wer das für weitentfernte Science Fiction Fantasien hält sollte mal unter „Deep Learning“ „googeln“ oder besser „ducken“ (www.duckduckgo.de). Letztere Suchmaschine verspricht euch nicht zu verfolgen.
Das Programm, das kürzlich den weltbesten Go Spieler besiegte hat sich das Spiel selbst beigebracht. Kein Programmierer

Link zum Go Spiel auf Basis von Deep Learning


Samstag, 26. März 2016

Parallel verreist


© Nexusplexus | Dreamstime.com -
Virtual Technologies Photo

Ostern ist ist für viele auch Reisezeit. Per Kurztrip fährt man an den Gardasee, besucht diverse Städte oder geht einfach in den Garten zum Eiersuchen.

Ich habe meine Protagonistin Selina auch auf eine Reise geschickt. Allerdings muss es bei mir schon etwas besonderes sein. Ihr kennt mich ja. Einfach so Berlin tuts da nicht. Es sei denn es ist ein Berlin von vielen. Ihr wisst schon. Ein Berlin in einer Parallelwelt. Ähnlich dem Original aber auch ein bisschen anders.

In meiner neuesten Kurzgeschichte geht es um Parallelwelten, einen vermeintlich absolut sicheren Tresor und eine jungen Wissenschaftlerin, die ihn aus Versehen knackt.

Genau genommen taucht sie plötzlich darin auf. Dummerweise gerade zu dem Zeitpunkt als eine Gruppe bunt zusammengewürfelter „Spezialisten“ versucht den Safe zu öffnen.

Kein Wunder, dass die professionellen Gelschranköffner wissen möchten, wie sie hineingekommen ist. Und nicht nur die. Auch Selina wüsste das sehr gerne. Leider kann sie sich an nichts mehr erinnern. In den Händen einer Bande Panzerknacker, die weder Skrupel noch Mangel an Methoden kennen, Menschen zum Reden zu bringen, ist das eine ganz schlechte Ausgangsposition.


Hier eine Leseprobe:


1.  Eine von unendlich vielen Welten

Wie versteinert stehen sie am Rand der Kiesgrube und starren nach unten. Eine Szene, wie in einem Spaghetti-Western.

»Drei Minuten«, verkündet Sitting Bull.

Wer genau hinschaut, bemerkt das nervöse Zucken an Doc Holidays rechtem Auge. »Der letzte Versuch.«

»Irrtum«, korrigiert Wyatt Earp mit rauer Stimme. »Uns stehen so viele Versuche zu, wie wir in den nächsten vier Stunden durchführen können.« Seine Körperhaltung strahlt unerschütterliche Zuversicht aus.

Billy the Kid schüttelt den Kopf. »Das ist doch Haarspalterei. Was für eine Rolle spielt das denn jetzt noch? Wir haben uns eine Woche lang zum Narren halten lassen. Habt ihr das denn nicht gemerkt? Dieser Typ da hat uns die ganze Zeit nur verarscht. Der Trip hierher war reine Zeit- und Geldverschwendung.«

Das Kinn des langhaarigen Revolverhelden zuckt in Richtung des Mannes im Hintergrund. Dieser scheint die Bemerkung nicht gehört zu haben. Er steht breitbeinig in seinem maßgeschneiderten Armani-Anzug da und sieht aus wie der Schwiegersohn, den sich jede Mutter erträumt. Ein Verkaufsmagier. Der Typ, der Inuits Kühltruhen andreht. Seine Kunden haben noch Monate danach das Gefühl, den Deal ihres Lebens gemacht zu haben. Selbst, wenn sie ein Vermögen für etwas ausgaben, das sie nie im Leben brauchen werden.

»Das verstehst Du nicht, Bubi. Für das Diamantencollier im Safe würde ich alles tun.«

Die ältere Dame mit der rauchigen Stimme sieht nicht so aus, als gäbe es noch Platz für ein weiteres Schmuckstück an ihrem Körper. Ganz im Gegensatz zu der jungen Frau in dem schlichten Kleid neben ihr.

»Diamanten im Wert von einer Million Euro«, hört man sie murmeln. »Für den, der es schafft, den Safe zu knacken.«

Sie behauptet Wahrsagerin zu sein und versucht noch immer den richtigen Code vorherzusagen. Ständig flüstert sie Zahlen und die absurdesten Wortkombinationen vor sich hin.

»Bei Manitou«, verschafft sich Sitting Bull Gehör. »Von Eurem Geschwätz werden ja die Geister wirr. Vom Reden jedenfalls wird der Tresor nicht aufgehen. Seid endlich still und genießt die Show.«

Im Hintergrund wird weiter genörgelt. »Man hört und sieht ja gar nichts.«

Jemand anders prustet los. »Das Missile fliegt mit fünfzehnfacher Schallgeschwindigkeit. Das wirst du erst hören, wenn der Panzerschrank pulverisiert und der Staub sich gelegt hat.«

»Ruhe jetzt«, donnert der Häuptling. »Der Countdown läuft. Zehn ... neun ...«

Den Rest überlässt er der digitalen Anzeige am Wandmonitor. Endlich kommt die Stille zu ihrem Recht. Mit Macht ergreift sie Besitz von dem Raum.
Noch bevor der Zähler auf Null springt, blitzt es am Boden der Kiesgrube. Greller als die Sonne.
Dann folgt der Knall. Ein Schlag, spürbar bis ins Mark. Dementsprechend ist die Wirkung der Explosion. Sie lässt die Menschen im Bunker taumeln. Einige verlieren den Halt und stürzen. Zwei Stehtische fallen um. Geschirr prallt auf den Boden und geht zu Bruch.

Grollend erhebt sich eine Staub- und Gesteinswolke vom Kraterrand. Große Brocken rasen auf die Beobachter zu und prallen nur wenige Zentimeter vor ihnen dumpf auf eine unsichtbare Wand. Dort zerstieben sie in kleinere und kleinste Steinchen, die zu Boden fallen.

In weiser Voraussicht befinden sich die Tresorknacker in einem Bunker mit meterdicken Mauern. Außenkameras und Mikrofone nehmen Bild und Ton auf. Die Projektion dieser Bilder auf die Wände lässt den Eindruck entstehen, als wäre man mittendrin. In Wirklichkeit sind die Zuschauer mehr als zwei Kilometer entfernt.

Jeder normale Mensch wäre von der absolut realistischen Projektion entweder vor Schreck geflüchtet oder in Ohnmacht gefallen. Doch die Gruppe ist das mittlerweile gewöhnt. Seit einer Woche durchleben sie ein ähnliches Szenario mehrmals am Tag.

Als sich der Staub legt, zoomen die Kameras auf den Würfel im Zentrum. Zunächst hatte sie diese virtuelle Fahrt durch die Luft regelrecht von den Beinen gerissen. Aber auch das ist ihnen nun vertraut. Kaum einer zuckt noch.

Als das Objekt der Begierde raumfüllend vor ihnen steht, setzt ein aufgeregtes Murmeln ein. Rufe werden laut. Die Wucht des Aufpralls rammte den Tresor bis zur Hälfte in den Boden.

»Wow, das Missile ist durchgebrochen.«

»Nein!« Die tiefe Stimme gehört Ben Cartwright.

»Doch! Schau, die Decke ist geschmolzen.«

»Geschmolzen ja aber noch hält sie.«

»Noch ein Schuss und wir sind drin«, grinst der Häuptling zufrieden. »Wie gut, dass ich mehrere dieser Bunkerbrecher-Raketen habe.«

»Aber ... Was passiert jetzt?« Panik liegt in der Stimme. Calamity Jane deutet aufgeregt auf den Tresor.

»Neiiin!«, ertönt ein vielstimmiger Ruf.

Schweigend muss die Gruppe zusehen, wie sich die Wand von selbst heilt. Sie können nichts dagegen tun. Nach ein paar Sekunden ist lediglich eine kleine Delle zu sehen, die man nur von der Seite erkennt.

»Wieder nichts«, bringt es Wyatt Earp auf den Punkt. »Dabei waren wir diesmal so nah dran.«
Aus sicherer Entfernung rücken autonome Bagger an, um den Panzerschrank wieder freizuschaufeln. Der Traum aller Schwiegermütter scheint gewachsen. Stolz reckt er das Kinn hervor. Seine Siegesgewissheit lässt das Blau des Safes noch kälter erscheinen. Dessen abweisende Verschlossenheit ist fast körperlich spürbar.

Jemand versucht sich bemerkbar zu machen. Die Piepsstimme findet selbst in die resignierte Stille hinein kaum Gehör. Er stottert mit Worten herum, die sich wie »Branen«, »Tachyonen« und »Wurmloch« anhören. Für keinen der Anwesenden ergibt das einen Sinn. Schließlich verliert Wyatt die Geduld. Barsch unterbricht er den älteren Herren, der sich Einstein nennt.

»Ist dein Quantenbohrer endlich einsatzbereit?«

Erschrocken wird die schmächtige Person um einen Kopf kleiner.

»So ... so gut wie fertig«, stottert er. Ich brauche nur noch ein paar Stunden. Das Kraftfeld für den Tachyonen Reformator zur Polarisation kosmischer Strings ist zu schwach. Aber ich ...
»Wir haben keine vierundzwanzig Stunden«, fährt Doc Holiday dazwischen.

»Richtig«, mischt sich der Tresorverkäufer mit gepflegtem Schweizer Akzent ein. »Die Regeln sind eindeutig. Wer es schafft innerhalb einer Woche in den Tresor zu kommen bekommt als Belohnung ein Diamantencollier im Wert von einer Million Schweizer Franken. Einhundertachtundsechzig Stunden. Keine Sekunde länger.«

Wyatt Earp taxiert den Eidgenossen wie ein Adler seine Beute. Er fragt sich, wieso er gerade jetzt die Deadline so betont. Hat er etwa Angst, dass Einsteins Quantenbohrer das Potential hat, den Safe zu knacken? Sein Kopf ruckt zu dem schüchternen Wissenschaftler herum.

»Wie viele Stunden?«

Der Superstringrelativitätsquantentheoretiker windet sich aber der Greifvogelblick tötet alle Ausflüchte.

»Sechsundzwanzig Stunden«, gibt er kleinlaut zu.

Ein enttäuschtes Raunen geht durch den die Reihen. Der Verkäufer atmet erleichtert auf.
»Will sonst noch jemand einen Versuch starten? Sie haben noch zwei Stunden und sechsundzwanzig Minuten.«

Das Gemurmel der Wahrsagerin wird lauter. In schneller Folge wirft sie Zahlenkombinationen in den Raum. Keiner nimmt das mehr ernst. Sonst meldet sich niemand. Unten in der Kiesgrube wird der Tresor mit hochempfindlichen Sensoren einer Zustandsanalyse unterzogen.

»Gut. Bitte genießen Sie die Erfrischungen und Kanapees, während wir warten.«

Mit einem Schnippen winkt der Gastgeber einen Roboter herbei und lässt sich ein Glas Champagner reichen. In dem Moment, als er zum Trinken ansetzt, geht der Alarm los. Alles erstarrt. Vor Schreck rutscht dem Schweizer das Glas aus der Hand. Mitten in die Stille klirrt es auf den Boden und verspritzt den edlen Champagner. Ein Signal zeigt an, dass sich jemand im Tresor befindet.

»Das kann nicht sein«, stöhnt der Tresorverkäufer.

»Doch! Es gibt keinen Zweifel. Puls und Atmung sind die eines Menschen«, diagnostiziert Doc Holiday. »Aber nicht mehr lange. Es sind immer noch zweiundneunzig Grad da drin.«

»Aufmachen. Sofort!«, fordert Sitting Bull. »Ich will wissen, wer es hineingeschafft hat.

»Wollen Sie wirklich auf weitere Versuche verzichten? Wenn ich den Tresor öffne, sind diese verwirkt«, warnt der Verkäufer.»

Es ist doch schon vorbei. Jemand hat es geschafft in den Safe zu gelangen, bevor die Zeit um ist. Ob es Ihnen passt oder nicht, wir haben gewonnen. Außerdem geht es um ein Menschenleben« Earps Ermahnung bringt den Veranstalter der Show zur Besinnung. Wohl wissend, dass es weniger um den Menschen geht. Sie alle wollen wissen, wie er hineingekommen ist.




Kurze Zeit später öffnet sich die schwere Panzertüre. Ein Scheinwerfer springt an, um das Innere zu beleuchten. Auf dem Boden liegt wie vorhergesagt ein Mensch. Ein Wartungsroboter geht hinein. Als er mit der Person auf dem Arm herauskommt, treffen die SUVs der Tresorknacker ein. Kollektives Knirschen dominiert das akustische Spektrum, als sie mit rutschenden Reifen auf dem Kies zum Stillstand kommen. Eine Bö verbläst den aufgewirbelten Staub.

Die junge Frau regt sich. Sie schnappt nach Luft, als wäre sie am Ersticken. Nach ein paar Atemzügen öffnet sie die Augen und schaut verwirrt um sich. Als sie merkt, dass sie in den Armen einer Maschine liegt, befreit sie sich hastig und eilt ein paar Schritte davon. Ihre zerrissenen Jeans und Turnschuhe brandmarken sie als krasse Außenseiterin der feinen Gesellschaft. Ihre bunten Haarsträhnen verstärken das noch.

Wortlos stehen sie sich gegenüber. Auf der einen Seite die illustre Gruppe der Geldschranköffner und auf der anderen die Fremde, durchgeschwitzt und schwer atmend. Misstrauisch beäugt man sich.

»Wer sind Sie und wie sind Sie in meinen Tresor gekommen?«, will der Schweizer wissen.«

Die Frau setzt zu einer Antwort an und stockt. »Wer sind Sie und wo bin ich hier?«, kontert sie schließlich.
...







                                                                                      ***

Weiter geht’s hier bei Neobooks:

Oder Bookrix:

Oder bei Amazon:



Viel Vergnügen beim Lesen und Frohe Ostern!

© Roy O'Finnigan




foxload.com


Blogverzeichnis - Blog Verzeichnis bloggerei.de

Blogverzeichnis

Blog Top Liste - by TopBlogs.de







RSS Verzeichnis

Virtual Space Composition

Virtual Space Composition
© Agsandrew | Dreamstime.com