2014年10月

人間の知性の限界

ちょとした遊びです。まぁ、限界というよりも、今までのところでの質的な上限についてです。

----

長いですけど前説。

抽象的思考については、何をもってそう呼ぶのかについて議論はあるでしょうが、壁画を描いた時点で一定の抽象的思考の能力を持っていたのでしょう。幾何学模様というような話でなくとも、3次元の物体を2次元に投影し、それを3次元のものと(おそらく)認識していたのでしょうから。例えばそこから文字や数という概念に至るのに時間がかかっていたとしても(文字については実際に時間がかかったと考えられています。言語の発生はいつなのか不明ですが)、それは時間の問題だったと考えておこうと思います。このような一種の記号化が可能になったのは、壁画という証拠からみると、4万〜3万年ほど前のようです。

おそらく、根本的な質という面に限れば、記号化というmemeを手に入れた―あるいはそれを許容できる脳を手に入れた―、その時点が頂点であるのかもしれません。あとは、そのmeme自体の変化や進化なのかもしれません。

そこで、3万年前が人間の知性の上限だったと言うと、いろいろ反論が出てくるように思います。「彼らは、現在の科学技術を持っていなかった」とか。そこは問題にならないというか、生物としての人間の知性の上限ではなく、memeの変化や進化や蓄積、それと知識の蓄積であろうと思いますが。

では、もう少し受け入れられやすいと思う次の時点を探します。信仰、農耕、集会などが挙げられるかと思います。信仰の起源は分かりません。壁画を描いた頃に発生したのかもしれません。あるいはもっと前かもしれません。赤鉄鉱を使っての化粧なんかには、信仰に類するものと部族などを示すものとが混在しているらしいです。アフリカ大陸南端の遺跡からは使われた赤鉄鉱(?)なんかが発掘されています。10万年くらい昔です。

んー、あれ? 信仰に類するものや部族などを示す化粧がなされていたということは、すでに抽象化の能力を持っていたのでしょうか? だとしたら、上に書いた3万年前よりも遡りますね。なお、その時期は氷期だったらしく、ホモ・サピエンスの遺伝的多様性がかなり失われた時期らしいです。

農耕と集会については一緒にします。農耕の最初期はかなり偶発的な面もあったと思います。そこで野生種から栽培種への変化の過程をみると、どうも部族間での集会もそれと並行していたようですので。これが1万年前くらい。やぁ、結構最近に戻って来ました。なぜ農耕をここで書くものに入れているかというのは単純な話です。「いつ種を蒔いたらいいのか」ということを知らなければならないからです。天文学的知識は無くとも、1年という周期かそれに類するものは知って、あるいは分かっていないといけないからです。天体観測をしていたかもしれませんし、もしかしたら数の概念に到達していたかもしれません。なので、農耕という表現をしてはいますが、農耕そのものよりもそれらの方を少しばかり重要視しています。

まだ何か言われそうなので、もう少し最近を見てみましょう。5,000から6,000年前(あるいはそれより前)の都市国家の誕生の時期です。この時期には文字、職業、法律、(形はどうあれ)お金も現れています。お金というより交換の媒体とだけ書いておく方がいいのかもしれません。

これより最近で、上限とみなすことができそうな時期はあまり見つかりそうもありません。ですが、ここではギリシアとローマ帝国の時期を挙げておきましょう。これらは、近い分、何年前くらいという表現が使いにくくなりますが。まぁ大雑把に2,000年前くらいとしましょう。時期として一緒にしていますが、古代ギリシア文明とローマ帝国では文化としてかなり違います。古代ギリシア文明は多様性があったのに対して、ローマ帝国はあくまでローマ帝国という感じだったらしいです。ただ、2つを分けると時期の書き方が面倒になるので、ここでは一緒にしておきます。

この時期に何が変わったか。うーん、国家が大規模になったとか。「思想」や「思索」がそれなりに重要視されたとか。エネルギー消費に奴隷も含めると、いくらか現代に近づくとか。「思想」などというものをどうとらえるかにはいろいろあるかと思いますが。5,000から6,000年前のメソポタミアとかでも神話が体系化されており、その中では天体についての思索もあることはあるわけで。あるいは数学が誕生したと言ってしまった方が簡単かもしれません。でも、それ以前になかったわけはありません。天体観測は行なっていたのですから。表現の問題ですが、「抽象的な数学」が誕生した時期と言っておいた方がいいかもしれません。あぁ、あとギリシアでは民主主義も起きています。

もっと近い時期になにかなかったかと考えると、逆説的ですが中世の暗黒時代があります(そう呼ぶのも荒っぽいですけど)。この時期ヨーロッパでは、文明は退行しているわけですが、なぜ退行が起こったのかというあたりについて考えてみます(まぁ地域限定の話でもあるわけですが)。西ローマ帝国のあと、1,000年くらいの間かと思います。西暦500年付近から、1,500年あるいは1,600年あたりかなと思います(文献探索とかが1,600とかでも行なわれていたので、とりあえずそこまでを入れておきます)。西ローマ帝国は周辺地域の部族(?)による侵攻や、他の地域での火山の大噴火なんかがあったそうです。その辺りが引き金らしいですけど。まぁこの時期でも東ローマ帝国は健在だったらしいですけど。この時期でも、東ローマ帝国やイスラムででっかい聖堂が作られたりしてます。前のローマ帝国と質的に違うのかどうかは、私には分かりません。この時期の考察は私には手に負えません。とりあえず時期的には1,000年前くらいとしておきます。

ただ、問題として考えたいのが、なぜ1,000年にわたって復興されなかったのかということです。カトリックの権力とか王制の権力とかいろいろあったらしいです。あるいは東ローマ帝国でもここで特筆するようなことはなかったようです(私の検索が足りないだけだと思いますが)。なぜ1,000年にわたって革新がなかったのか。このように捉えるのは恣意的ではありますが、権力と規範の限界期と考えることはできないでしょうか。いろいろあったわけですが、権力と規範が1,000年ほどにわたってとりあえず維持されていたわけです。この時期あたりでの国家などの規模とそれに付随するものが一種の安定期、あるいは限界期を迎えていたと考えてみます。

この後にルネッサンス期が来るわけです。そこでの復興と発展は大変なものがあります。ですが、それがもたらしたのは、ある意味での混乱とも言えるのではないかと思います。まぁルネッサンスの初期あたりも年代として入れておくと、これまた一つにまとめられませんが、西暦1,500年ころとしておきます。500年前くらいですね。

それよりも最近で何が起こったかというと、産業革命を挙げておくだけで構わないのかなと思います。個人のエネルギー消費の爆発的増加は現在にも繋がっています。細かい話は置いといて、西暦1,800年ころとしておきます。

----

ちょっとまとめます。

  • 10万年前: 化粧
  • 3万年前: 壁画
  • 1万年前: 農耕
  • 6,000年前: 都市国家、文字、職業、法律、お金(交換の媒体)
  • 2,000年前: 抽象的数学、哲学
  • 1,000年前: 権力と規範の限界
  • 500年前: ルネッサンス
  • 200年前: 産業革命(エネルギー消費の爆発)

この辺りから本番。

さて、人間の知性はこれらのどこかで上限を迎えていたのでしょうか。それとも今も向上し続けているのでしょうか?

ここで注意が必要なのは、現在の我々は知識の集積の上にいるということです。

「無人島に行く時に何か一つだけ持っていけるとしたら」という話がありますが、私たちは自分自身の脳を持っていくだけで、おそらく上記のどの時代に於いても変革を起こせるでしょう。仮にその変革が受け入れられなかったとしても、少なくとも変革の芽は残せると思います。ですが、その可能性は、必ずしも現在の人間が上記のどの時代の人間よりも、知性の面で優れているからとは言えないのです。あるいは少なくとも言えない可能性が残るわけです。

まぁ、解剖学的には6,000年前あたりが上限だったん可能性があるという話になっていますが。

それと、上の列挙は恣意的なものですが、上の項目の年代の1/3〜1/2で、次の項目の年代となっています。まぁ加速度が一定に近いという表現が、そこそこ良いのかもしれません。そうするとちょっとしたアイディアを思いつきます。遺伝情報に基づく脳の機能の向上が変革に追いつかなくなることはあるのか? あるとして、それはいつなのか?

では、人間の知性は向上し続けていて、かつ加速度が一定だとしましょう。その場合、人間の遺伝情報が変化するためには、つまり単純に考えて自分が生まれてから自分の子供が生まれるまでの時間が必要です(群れとしてみると、また少し違いますが)。ですが、単純に考えて1世代必要なわけです。仮に1世代を30年とします。加速度が一定だとして、変革が30年を割り込むのはいつでしょうか?

これは、あるいはこういう言い方ができるかも知れません。ある言語における単語の意味は変化し、場合によっては増えます。そして場合によっては外国語や古語、死語から語彙を持ってきます。そのような方法でやっていくと、語彙は増え、多義語が増えるかもしれません。そのような傾向が続けば、人間の脳という実行系においては言語というシステムが崩壊する可能性があるかもしれません。その崩壊はいつなのでしょうか?

言語システムは置いておくとして、ここでは1/3よりもゆるやかな1/2を、うーん、いや2/3を使いましょう。すると、200年前の産業革命以後に変革があったかもしれない時期として、133年前、89年前、59年前、39.5年前、26年前、17.6年前、12年前、7.8年前、5年前、3.5年前、2.3年前、1.5年前、1年前となります。26年前で1世代、30年を割り込んでいます。

2014  -  26は1988年になります。この時期に何が起こったでしょうか? そのためには、その次の17.6年前を見てみます。2014  -  17.6 = 1996.4。この時期、MS-Windows 95が出ています。この時期に何が起こったでしょうか? 私見ですが、インターネット利用者の拡大がその1つとして挙げられるかもしれません。では、1988年ころには? これまた私見ですが、PCの普及を迎えていたことがあげられるかもしれません。

さて、仮に1988年に既に人間の知性の向上が変革に追いつかなくなっていたとしましょう。1996年には、それはさらに顕著になっていたかもしれません。では、現在私たちの知性というシステムは変革に追いつかなくなっているでしょうか? 何となく、「そうでもないのかもしれない」と思えます。1996年ごろを見てみると、1995年にYahoo! JAPANが検索エンジンを公開しています。私たちの知性というシステムが変革に追いつかなくなっていたとしても、検索エンジンにより、そこの所を補えているのかもしれません。ですが、補えているのと、知性というシステムが追いついているのとはまったく違う現象でしょう。

では、この辺りで1世紀ほど技術の停滞が起こるのでしょうか? 中世の暗黒時代のように。どうもそうでは無いように見えます。

さて、26年前、17.6年前とならんで、59年前という数字があります。2014 — 59 = 1955年。この近辺で何があったか。私見ですが、1956年にダートマス会議が催されています。まぁ「人工知能を実現するぞー!」と言った会議です。

検索エンジンも、考え方によっては人工知能です。1995年当時も今も。今の方がよりはっきり人工知能的だと言えるかもしれません。

さて、では1988年に既に知性というシステムが変革に追いつかなくなっていたとします。そして1995年にはある意味での人工知能がそこを補えていたとします。ですが、そうであると認めるかどうかという問題があります。つまり、人間の知性というシステムはそれのみでは既に存在できず、あるいはそれの群れとしてのみでは既に存在できず、人工知能との複合体として、やっと存在できているという見方を受け入れられるかどうかです。

----

人間の知性は、まだまだ変革に耐えられる余裕があるのかもしれません。

あるいは、人間の知性はまだまだ一定の加速度、あるいは速度で向上しているのかもしれません。

あるいは、人間の知性は既に、もしかしたらとっくの昔に上限を迎えているのかもしれません。

あるいは、人間の知性はまだまだ一定の加速度で向上しているのかもしれません。

あるいは、すでに人工知能との複合体という形になっているのかもしれません。もし、この場合、立場が逆になるのはいつでしょうか? 言い換えるなら、ウェアラブルなどによって行動を計算機に指示される、あるいは何らかの形で計算機が人間の行動に強く介入してくるようになるのはいつでしょうか? シンギュラリティを待つ必要は無いのかもしれません。

----

まぁ、1/3とか1/2とか2/3とか、それを使って出している数字は遊びです。ですが、面白いかもしれないと思ったのでこんなのを書いてみました。どういう数字を使おうとも、毎年何かが見つかるはずです。

-sk/wl/hm

ワークライフバランスが必要なのは奴隷未満のモノ

ワークライフバランスなんてのがあります。少し次に挙げるものの下の方でも書きましたが。

なぜ日曜日があるのでしょうか? (この書き方はちょっとおかしいですし、日曜日に限った話でもありませんが。) なぜ8時間労働とかワークライフバランスとか言われるのか?

それは奴隷を過度に疲弊、あるいは消耗品にしないためです。

奴隷に対してどうしてそういう扱いをするのかといえば、単純に昔よりえらくコストがかかるからというだけでしょう。奴隷でなくても、モダンタイムスでチャップリンが演じているような労働者でも同じです。

逆方向から見ると、ワークライフバランスとか言っている人は、自分でこう宣言していることになるのではないでしょうか。

私は奴隷です。なので守ってください。

ここから、考えなおす必要があるのではないでしょうか?

あなたが世の中に提供できるのは、それが肉体的であれ知的であれ、労力なのでしょうか? もしそうなら、まず奴隷やロボット未満であることを受け入れましょう。労働者の権利というのは、そこを認めたところから発生します。そこを認めないのであれば、労働者の権利という概念自体、そもそも発生しないでしょう。

これに対して、「人間なのだから」とか「人間らしい」という反論もあるでしょう。ですが、話は単純です。「あなた方は人間ではない。それを自身で認めてるでしょ。」

さらには「退職したら」という類のも、現状を「苦役の期間」と考えてるわけですよね? キリスト教的な人生観です。そういう考え方はどうなんだろうなと思います。

労働者の権利が発生しない社会はあるのでしょうか。まぁあるわけですけど。能力、才能を提供しあう社会です。そんな当たり前の社会とか世の中が、現状は少し遠い。その理由は簡単です。それは…

-wl/sk/hm

時間幅

「生命と非生命のあいだ(アシモフの科学エッセイ<4>)」, アイザック・アシモフ (山高 昭 訳), 早川書房, 1978.

これに、「21 われら”中間型生物”」と「22 誰かそこにいますか?」というエッセイがあります。21の方は、シリーズ(?)1巻目にも同じようなエッセイがあったと思います。22の方にはこういう一節があります。

だが、それらの惑星のうち、どれだけが知性ある生物を宿しているのだろう?

生物は化学進化の結果として、条件さえ揃えばまず間違いなく発生すると思います。今のところ、たぶん地球型(水-蛋白)の生物が想定されていると思いますが、21のように他のものもありえるのかもしれません。どのような形態にせよ、いずれは光(特にレーザー)や電波を使うかもしれません。そうすれば、時間の制限があるため、ただ「ここに私たちはいる」という独り言を発信するだけかもしれません。ですが、受け取る側が一定の技術の段階に達すれば、それを聞くことはできるかもしれません。

いや、本当にそうでしょうか? 龍の卵という作品があります。この作品では、中性子星の上に暮らす知的生物が現れます。その生物にとっての、(なんというか)時間単位は、人間にとっては極めて短いものです。21に書かれている方は、そこまで極端な違いはないと思います。ですが感覚的な時間単位は違うかもしれません。

たとえば、人が打ち聞くモールス信号は人間が打てて、聞けるような時間単位にもとづいて用いられます。感覚的な時間単位が違う生物がいたとして、それを聞いたとして、「見つけた」と思えるでしょうか?

人間の場合、温度的に中間にあるため(と言っていいと思いますが)、計算機に制御させて様々な感覚的時間単位で信号を打てますし、聞けます。では、温度的に低かったり高かったりする場合にはどうでしょうか? あるいは、人間も、人間の感覚的時間単位をまず基本として聞こうとしているなんてことはないでしょうか? 例えば、モールス信号で相手が送ってくるわけはありませんが、例えば短点が人間の1年に、長点が人間の3年にあたるような場合、人間はそれを見つけられるのでしょうか? (少なくとも、長い観測が必要です。)

他の場所から信号が見つからない理由として、そもそもいないと考えるのが簡単です。まぁ宇宙は広いのでタイミングという面倒な問題がありますが。ですが、感覚的な時間幅という単純な問題があったりしないでしょうか? なんとなく、それでも見つけられないというのは考えにくいようには思いますが。

-hm/wl/sk

人間が生物であることをやめるのはいつか?

とは言っても、コンピュータにアップロードすとか、そういう話ではありません。


コンピュータに関連して言えば、人工知能がいずれ到達するであろうSigularityについて考えてみます。そこにはたぶん知性があるとみなされるでしょう。

だとすれば、知性というのは人間の脳という媒体に依存するものではないのでしょう。



では、人間という存在は、生物という媒体に依存するのでしょうか?

ちょっと言い方がよくありませんね。生物という媒体において人間であっても構いません。

ですが、生物という媒体を用いていることで人間を定義できるのでしょうか?


人間が生物という媒体において定義されていないとするならば、それは他のあり方を知らないからだけではないでしょうか?

Singularityに到達した人工知能に、人格や人権が認められないとは考えにくいと思います―認められない理由があるでしょうか?

そうなった場合、では何を持って人間を定義するのでしょうか? 以前から使っている言葉ですが、ここで改めてヒトという言葉を使いましょう。

ならば、「人間」は生物を媒体とする定義としても構いません。では「ヒト」であることは何をもって定義する―あるいは認める―のでしょうか?

問題はここです。生物種としての人間と、他のあり方もあるであろうヒトとをどこで、どうやって区別するのでしょうか?

「生物種以外の『ヒト』というものを認める必要はない」という議論は不要です。計算機がSingularityに到達しうる可能性を、少なくともこの議論では認めてしまっているからです。

人間はいつヒトになるのでしょうか?

人間はヒトになりえないのでしょうか?



なりえない可能性についての根拠もあります。

「なぜ宇宙人は見つからないのか?」

それが答えです。この答えに、さらに答えるなら、ヒトに―それがどういうものであれ―なりえず、文明を発展させられなかったから、あるいは自滅したから。単純な話です。


人間はヒトになりえるのでしょうか?

-hm/wl/sk

科学って何だろ?

「真空の海に帆をあげて(アシモフの科学エッセイ<12>)」, アイザック・アシモフ(山高 昭 訳), 早川書房, 1988.

この中で、「58 焦点を鮮明に」の最後にこういう一節があります。

    宇宙の全般について、われわれはどれだけ多くのことを学ぶだろうか―その起源、発展、予想される終末について? われわれが何を発見するかは、予想もつかないのである。

    ほんとうを言えば、それこそが胸のおどることなのだ。新しい発見の本質が予測できるものならば、どうして手間をかけて実行することがあろうか?


たまに(?)、わからないことにお金をかけることは無駄と言っているような意見に会うことがあります。

実際、この社会という永久機関―それが幻想だとしても―を回し続けること以上に重要なことがあるでしょうか? それが実現された時期および地域がありました。ヨーロッパの中世の暗黒時代、ルネッサンスの前です。その当時も当然イスラムの方で科学技術が発達したりはしていましたが。日本の江戸時代は、実はその時代のヨーロッパほどに変化が少なかったわけではないようです。

異論もあると思いますが、とりあえずその時代から話を始めます。社会の変化も、科学技術の変化も、永久機関的な社会を回す事に対しての余剰のものを使って行なわれたのでしょう。

その余剰のものとは、「予測できないことを調べる」ことでしょう(他にも芸術の方面とかありますが、そっちでも幾何とかが発達あるいは応用されてます)。

今、「予測できないことを調べる」ことをやめたとしましょう。今の生活水準を維持できるでしょうか? できるかもしれません。ですが、資源の限界が見えている現在、今の生活水準が50年維持できると考えるのであれば、おそらく極めて楽観的と言えるでしょう。おそらくは100年程度で、運が良ければ江戸時代くらいの社会、おそらくは暗黒時代に戻るでしょう。社会を支える資源がないのですから、そこまで戻ってしまうことは不可避と考えられるでしょう。

2, 3回書いておいたと思いますが、人間は火を手に入れた時からカウントダウンが始まっていることを思い出す必要があります。何度か、カウントダウンを止め、宇宙への興味も医学への興味も捨てる機会がありました。ですが、その機会を人間は放棄しました。あとは、カウントダウンを認めるしかありません。

現代社会を永久機関的に維持しようという努力は虚しいものです。それは不可能だからです。

もし、暗黒時代を避けたいのであれば、「予測できないことを調べる」ことをやめることはできません。カウントダウンが進んでいる以上、「予測できないことを調べる」ことに関しての重要さをますます知らざるを得ません。他に方法はないのですから。

現在、文科省においても社会においても研究が軽く見られている(日本だけかもしれませんが)のは仕方がありません。永久機関的社会―もちろんそれは幻想―を維持するので精一杯なのかもしれませんから。


夢野久作という作家がおりまして、江戸川乱歩らとともに日本において虚構文学を確立するのに一役買った人です。このペンネーム、地域の言葉で「ゆめのきゅうさくのごた言っとる」みたいな言われ方から取ったそうです。「夢のような馬鹿げた事を言っている」というような意味らしいです。

「予測できないことを調べる」、夢野久作になりましょう。社会の維持は、夢野久作になりたくない人に任せましょう。そして夢野久作になりたくない人は、夢野久作の邪魔をしないようにしましょう。

夢野久作になりたい人がいない社会は、あるいは夢野久作である部分を持つ人がいない社会は、あるいは夢野久作である部分を持つことを否定する社会は、おそらくカウントダウンが進んでいることを意識することも無いでしょう。それはそれで幸せな社会でしょう。

ですが、私はそういう社会には賛成できません。そういう社会は遠くない未来において、維持できないことがはっきりしているからです。誰に聞いても構いません。そういう答えが帰って来るでしょう。

-wl/sk/hm

コンピュータはいつ”I”と言うのだろうか?

ANTHROPOMORPHISM: FROM ELIZA TO TERMINATOR 2", Abbe Don (and other panelists), CHI’ 92, pp. 67–70, ACM CHI(かな?), 1992.




先日、「ブルースクリーンに表示されるテキストのオリジナル版はスティーブ・バルマーが書いたものだった」という記事がありました。まぁ、これは誤報とのことですが。

先頭に挙げた”Anthropomorphism”の記事に、ちょっと興味をひく記述がありました。MSとは関係ないと思いますが、Ben Shneidermanが”Designing the User Interface: Strategies for Effective Human-Computer Interaction”という本で、こう述べているそうです。

anthropomorphism的なタブーは、「エラーメッセージにおいて一人称を用いてはならない」というようなものである。Ben Shneidermanは、代名詞の使用も避けるように言っている。たとえば、”To begin the lesson, press return”の方が”I will begin the lesson when you press return”よりも好ましい。

というような感じです。私は、Ben Shneidermanの本を読んだ事は多分ありません。

とは言え、結局、今の計算機が”I”を使っていないのは、当時の、そして当時からの感覚と慣習によるものでしかないのかもしれません。機能だとか性能だとかという話ではなく。

さて、そのような慣習があることは意味のあることなのでしょうか? 例えば、単純な話として、計算機が「私は」と言い出したら、人間は困惑するとか。あるいは、困惑するとしたら、それは人間が計算機との間に何か違いがあると判断しているからなのでしょうか? それとも、その困惑は、慣習がもたらしたものに過ぎないのでしょうか?

ですが、そのような慣習があるおかげで、改めて、「計算機はいつ”I”と言うのだろう?」という事柄を考える事ができます。まぁ、プログラムをそう書くか書かないかだけの話といえばそうですが。書くか書かないかをいつ、どうやって人間は判断をするのでしょうか?

Singularityに到達したらでしょうか? それとも、そこまで―それは近いのかもしれませんが―待つ必要があるのでしょうか? 仮に待つとして、Singularityに到達したと、どうやって人間が判断するのでしょうか? あるいは計算機が勝手に「到達した」と宣言するのでしょうか? それとも、単に慣習を無視して誰かが”I”などを使うだけの話なのでしょうか(もうあるのかもしれませんが)。

慣習に基づくにせよ、人間の何らかの感覚に基づくにせよ、現在、私達は計算機が”I”と言うのには(多分)慣れていません。どのような条件が揃えば、受け入れられるのでしょうか? やはりSingularityが鍵なのでしょうか? あるいは、それは単に見た目としてのエージェント(あるいはアヴァターとか)が現れれば十分に納得できるものなのでしょうか? それとも、単にエージェントが現れるだけではなく、充分に人間的―擬人化した動物だろうと―に思えるような表情、口調、身振りが必要なのでしょうか? 逆に、Singularityは問題ではなく、見た目として充分に人間的なら構わないのでしょうか?

計算機はいつ”I”と言うのでしょうか?

計算機にいつ”I”と言わせるのでしょうか?

まぁ、単に慣れの問題でしかないのかもしれません。

-wl/sk/hm

記事検索
アクセスカウンター
  • 今日:
  • 昨日:
  • 累計:

livedoor プロフィール
QRコード
QRコード
  • ライブドアブログ