«前の日記(2012年12月01日) 最新 次の日記(2012年12月04日)» 編集

hablog


2012年12月03日 Eucalyptus Advent Calendar 2012 JP 三日目

_ Euca Monkey を使ってみたよ?

さて、Eucalyptus Advent Calendar 2012 JP の三日目です。初日がどうやら一部で「うわっ飛ばしすぎじゃね?」とか心配されたようなので、3日目は大人し目にいきたいと思います。

で、「大人し目って何だ?」って考えてみたんですが、大人しい == ドタバタしない系だと思い、つまり何か仕掛けたら放置プレイでいいんじゃね?となるようなものをターゲットにしようってことになり、協議の結果 Euca Monkey を扱おうという結論に達しました。で、この Euca Monkey ってのは Eucalyptus のストレステストツールでして、README とかを読んでると Eutester っていうテストフレームワークを使うそうです。でもここでいきなりこのテストフレームワークの使い方を説明しだすと、また皆さんを置いてけぼりな展開になるので、ここはぐっと我慢して Euca Monkey を使う方法に徹します。

ちなみに Euca Monkey の作者は Eucalyptus 社のソフトウェアデザイナ の Kyo Lee さんで、詳しくは彼のブログで紹介されています。

_ 環境の準備

で、何はともあれ Eucalyptus の環境を作らないと話ははじまらないんですが、初日のときみたいに nightly build に手をだして本筋から外れるのも何なので、今回は日和って Eucalyptus 3.1 の環境でやります。ステーブルサイコー!

ちなみに Eucalyptus 3.1 の環境の作り方は OSPN Press の「オープンソース」を使ってみよう (第26回 dodai-deploy編)を参考にしてください。

あぁ、一応聖なる紳士淑女のために説明をしますが、ちゃんとメモリを 16GB も積んだマシン2台構成で1台はフロントエンド (CLC/CC) で、もう1台はノードとしました。で、CLC/CC の eucalyptus.conf は以下のように変更しています。

# diff -u eucalyptus.conf.orig eucalyptus.conf
--- eucalyptus.conf.orig        2012-09-27 08:17:29.000000000 +0900
+++ eucalyptus.conf     2012-12-03 02:12:05.000000000 +0900
@@ -154,13 +154,13 @@
 # The networking mode in which to run.  The same mode must be specified
 # on all CCs and NCs in the entire cloud.  Valid values include SYSTEM,
 # STATIC, MANAGED, and MANAGED-NOVLAN.
-VNET_MODE="SYSTEM"
+VNET_MODE="MANAGED"

 # The name of the network interface that is on the same network as
 # the NCs.  In Managed and Managed (No VLAN) modes this may need to be
 # a bridge.  The default is "eth0".
 # Networking modes: Static, Managed, Managed (No VLAN)
-VNET_PRIVINTERFACE="eth0"
+VNET_PRIVINTERFACE="eth1"

 # On a CC, this is the name of the network interface that is connected
 # to the "public" network.  The default is "eth0".
@@ -188,22 +188,22 @@
 # A space-separated list of individual and/or hyphenated ranges of public
 # IP addresses to assign to instances.
 # Networking modes: Managed, Managed (No VLAN)
-#VNET_PUBLICIPS="your-free-public-ip-1 your-free-public-ip-2 ..."
+VNET_PUBLICIPS="192.168.33.110-192.168.33.250"

 # The address and network mask of the network the cloud should use for
 # instances' private IP addresses.
 # Networking modes: Static, Managed, Managed (No VLAN)
-#VNET_SUBNET="192.168.0.0"
-#VNET_NETMASK="255.255.0.0"
+VNET_SUBNET="10.0.0.0"
+VNET_NETMASK="255.0.0.0"

 # The number of IP addresses to allocate to each security group.
 # Specify a power of 2 between 16 and 2048.
 # Networking modes: Managed, Managed (No VLAN)
-#VNET_ADDRSPERNET="32"
+VNET_ADDRSPERNET="2048"

 # The address of the DNS server to supply to instances in DHCP responses.
 # Networking modes: Static, Managed, Managed (No VLAN)
-#VNET_DNS="your-dns-server-ip"
+VNET_DNS="192.168.32.21"

 # The network broadcast address and default gateway to supply to instances
 # in DHCP responses.

で、NC の eucalyptus.conf は以下のように変更しました。

# diff -u eucalyptus.conf.orig eucalyptus.conf
--- eucalyptus.conf.orig        2012-09-27 08:17:29.000000000 +0900
+++ eucalyptus.conf     2012-12-03 02:12:24.000000000 +0900
@@ -88,10 +88,10 @@
 # KVM hypervisor.

 # If "1", use Virtio for the root file system
-USE_VIRTIO_ROOT="0"
+USE_VIRTIO_ROOT="1"

 # If "1", use Virtio for dynamic block volumes
-USE_VIRTIO_DISK="0"
+USE_VIRTIO_DISK="1"

 # If "1", use Virtio for the network card
 USE_VIRTIO_NET="0"
@@ -154,7 +154,7 @@
 # The networking mode in which to run.  The same mode must be specified
 # on all CCs and NCs in the entire cloud.  Valid values include SYSTEM,
 # STATIC, MANAGED, and MANAGED-NOVLAN.
-VNET_MODE="SYSTEM"
+VNET_MODE="MANAGED"

 # The name of the network interface that is on the same network as
 # the NCs.  In Managed and Managed (No VLAN) modes this may need to be
@@ -171,13 +171,13 @@
 # configuration, this may be a bridge or a physical interface that is
 # attached to the bridge.  The default is "eth0".
 # Networking modes: Managed
-VNET_PUBINTERFACE="eth0"
+VNET_PUBINTERFACE="eth1"

 # On an NC, this is the name of the bridge interface to which instances'
 # network interfaces should attach.  A physical interface that can reach
 # the CC must be attached to this bridge.
 # Networking modes: System, Static, Managed (No VLAN)
-VNET_BRIDGE="br0"
+VNET_BRIDGE="br1"

 # A map of MAC addresses to IP addresses that Eucalyptus should allocate
 # to instances when running in Static mode.  Separate MAC addresses and

マシンイメージの準備

Euca Monkey を動かすには何故か CentOS 6.3 の環境が必要だそうです。ちなみに物理でも仮想でもいいようなので、インスタンス上でやろうと思うんですが、マシンイメージを用意するのがメンドーだなーっていうあなたのために

「ハイ、http://emis.eucalyptus.com/ 」。

え?そこはマシンイメージ工房じゃないの?って思われるかもしれませんが、残念ながら CentOS 6.3 のイメージは用意してませんので、Eucalyptus 社が配布しているイメージを使います。

で、マシンイメージの取得は、

  1. eustore-describe-images コマンドで一覧を取得し
  2. eustore-install-image コマンドでインストールする

という簡単なコマンドと手順で実現できるため、まずは eustore-describe-images コマンドを叩きます。(カチャカチャカチャ…ッターン!)

# eustore-describe-images
Traceback (most recent call last):
  File "/usr/bin/eustore-describe-images", line 36, in <module>
    import euca2ools.commands.eustore.describeimages
ImportError: No module named eustore.describeimages

さぁ、はじまりました。これだから使い慣れないディストリビューションで Eucalyptus 動かすの嫌なんだよなー。(完全に責任転嫁)

でとりあえず euca2ools のバージョンを確認です。

# dpkg -l | grep euca2ools
ii  euca2ools                             2.0.0~bzr516-0ubuntu3          managing cloud instances for Eucalyptus

あー、これは無理だわー、eustore-describe-images コマンドは euca2ools 2.1 からだわー。しょーがないから便利コマンドは諦めて CentOS 6.3 のイメージファイルを直接取得して手動で登録します。

で、取得したら以下のように登録します。

# tar -xzf euca-centos6.3-2012.11.07-x86_64.tgz
# cd centos-6.3-x86_64/
# euca-bundle-image --kernel true -i kvm-kernel/vmlinuz-2.6.32-279.14.1.el6.x86_64
# euca-upload-bundle -b kernel.001 -m /tmp/vmlinuz-2.6.32-279.14.1.el6.x86_64.manifest.xml
# euca-register -a x86_64 kernel.001/vmlinuz-2.6.32-279.14.1.el6.x86_64.manifest.xml
IMAGE   eki-945F390D

# euca-bundle-image --ramdisk true -i kvm-kernel/initrd-2.6.32-279.14.1.el6.x86_64.img
# euca-upload-bundle -b ramdisk.001 -m /tmp/initrd-2.6.32-279.14.1.el6.x86_64.img.manifest.xml
# euca-register -a x86_64 ramdisk.001/initrd-2.6.32-279.14.1.el6.x86_64.img.manifest.xml
IMAGE   eri-31F837E3

# euca-bundle-image --kernel eki-945F390D --ramdisk eri-31F837E3 -i centos-6.3-x86_64.img
# euca-upload-bundle -b machine.001 -m /tmp/centos-6.3-x86_64.img.manifest.xml
# euca-register -a x86_64 machine.001/centos-6.3-x86_64.img.manifest.xml
IMAGE   emi-69183D43

でテキトーに起動してログインします。

_ Euca Monkey のインストール

Kyo Lee さんのブログや README によれば「10ステップでインストールできるぜ」と言ってますので、以下の10ステップを実行します。

ステップ 1

git のインストール

# yum -y install git

ステップ 2

github から euca-monkey のソースを取得

git clone https://github.com/eucalyptus/euca-monkey.git

ステップ 3

ディレクトリ euca-monkey/ 配下に移動

cd ./euca-monkey

ステップ 4

cloud-resource-populator のインストーラを実行

./installer-cloud-resource-populator.py

で、スクリプトの実行が終ると4ステップの手順が示されるけどガン無視して次に進みます。

ステップ 5

euca-monkey-webservice のインストーラを実行 (いまさらだけど、HTTP proxy 配下の環境で実行している人は yum にちゃんと proxy の設定してネ)。

./installer-euca-monkey-webservice.py

ステップ 6

Euca Monkey の初期画面

Euca Monkey のページ (http://インスタンスのIP/euca-monkey.php) にブラウザでアクセスして、ちゃんと動いているか確認

あ、ちなみに事前にセキュリティグループの 80/tcp は開けといてね。あとインスタンス上でファイアウォールが有効になっている場合は system-config-firewall-tui コマンドとかで適宜 80/tcp を開けてね。

ステップ 7

ディレクトリ launch_euca_monkey/ 配下に移動

cd ./launch_euca_monkey/

ステップ 8

./conf/ ディレクトリ配下にある Euca Monkey の設定ファイル 2b_tested.lst と generator.ini を適宜変更します。

私の環境では以下の内容

  • ./conf/2b_tested.lst
192.168.33.102  UBUNTU  12.04   64      REPO    [UI CC00 CLC SC00 WS]
192.168.33.101  UBUNTU  12.04   64      REPO    [NC00]
  • ./conf/generator.ini
### RESOURCE GENERATOR PARAMETERS

[USER INFO]
account: cloud-user-test-acct-00
user: cloud-user-00
password: mypassword00

[RESOURCES]
running instances: 2
volumes:  2
snapshots: 1
security groups: 3
keypairs: 5
ip addresses: 2

[ITERATIONS]
iterations: 10

本当は RESOURCES や ITERATIONS の値を大きくしたいんですが、このあと OpenStack Advent Calendar のネタも書かなきゃならないので、日和って小さくしました。(この時点で 12/03 19:10 ...\(^o^)/)

ステップ 9

Euca Monkey を起動

./launch-euca-monkey.py

実行すると画面にポロポロっと下拵えの様子が出力されて、準備が完了すると

===== LAUNCH EUCA MONKEY : DONE =====

って出力されます。あとは裏でバリバリっと動くのです。

ステップ 10

期待のグラフががががが…?

で、コンソールを眺めてても何も起きません。そりゃそうです、実行結果はブラウザでステップ 6 でアクセスした場所を表示し、画面上部の [Refresh] ボタンをクリックして画面を更新します。するとモリモリ………って、あれ?画面左側の INPUT GRAPH しか描画されないお…(´・ω・`)

Euca Monkey のテストのログを見ると INPUT 側のログには

2012-12-03:20:07:20     cloud-user-test-acct-00 admin   intellilink     2       2       1       3       5       2
2012-12-03:20:07:25     cloud-user-test-acct-00 admin   intellilink     0       0       0       0       0       0
(省略)

って吐かれてるのに、一方の結果のログには

2012-12-03:20:07:23     cloud-user-test-acct-00 admin   intellilink     -1      -1      -1      -1      -1      -1
2012-12-03:20:07:27     cloud-user-test-acct-00 admin   intellilink     -1      -1      -1      -1      -1      -1

って吐かれてる…。どうみてもこれ失敗してるよなぁ。。。

で、ここで今更気付くのが羽深クオリティなんですが、そーいや Kyo Lee さんのブログのポスト見ると Eucalyptus 3.2 で実装されてる UI が写ってる…。もしかして Euca Monkey って 3.1 じゃ動かない? (そんな記述は見当たらないんだけどなぁ。。。)

ということで、Kyo Lee さんに質問し、今日はここまで。(12/01 のエントリに引き続き、こんなんばっか… T^T)


_ OpenStack を徹底的にイジメ抜く、許さない、絶対

Euca Monkey で消化不良な結末を迎えたので、思わず OpenStack Advent Calendar のことを忘れて今日を終えるところでした…。

さて、気持ちを切り替えて頑張ります。

えーと、タイトルは強気ですが、ぶっちゃけアタクシ OpenStack 初心者なのです (一部の人達には誤解されていますが…)。なので、初心者は初心者らしく、dodai-deploy を使って環境を作成します。

そしてこれは「ネタ」なので、書いてあることに対してスルー力が必要です。むしろこの日記自体をスルーしてくれると個人的には助かります。( ´_ゝ`)

… … …

… … …

… … …

(…3時間経過…)

… … …

… … …

… … …

OpenStack を泣かす前に自分が泣きそうな状況になりましたよ。ツールに頼ってばかりではいけませんね… T&T

教訓: (またこのパターンかよ…) OpenStack ぐらい手動で構築できるようにならないとダメです。

_ glance を泣かしてみる

何度も言いますが本当に OpenStack 初心者なので、OpenStacker 的には当然なことも僕にはワカラナイので「オイオイ、そんな使い方はねーだろーよ?」ってことをやっちゃってるかもしれません。

Eucalyptus だろうが OpenStack だろうが、まずはマシンイメージを登録しないことには始まりません。なので華麗にマシンイメージを登録してみたいと思います。

ちなみに、世の中的には glance にマシンイメージを追加するときは glance コマンドを使うようですが、僕は Eucalyptoid なので glance コマンドの使い方を知りません。なので意地でも euca2ools でイメージを登録してます。で、Horizon さんは素敵な方なので EC2 認証情報の zip ファイルをダウンロードさせてくれるのですが、その中にある ec2rc.sh の中には S3_URL に関する記述がないんです、何でだろう?僕の設定が悪いんですよねきっと、はい。

まぁ、なので毎回以下のように環境にあわせて設定してます。

S3_URL=http://192.168.33.101:3333

で、早速、おまちかねのイメージ登録です。ただし、普通に登録したのではツマラナイので、以下のスクリプトを用意し、1つのイメージを並列で登録してみました。

#!/bin/bash -x

WD=$(basename `pwd`)
KERNEL_IMG=`ls kernel-*`
RAMDISK_IMG=`ls initramfs-*`
MACHINE_IMG=`ls ${WD}.img`
BUCKET=`date +'%Y%m%d-%H%M%S'`

echo ${KERNEL_IMG}
echo ${RAMDISK_IMG}
echo ${MACHINE_IMG}

mkdir -p /mnt/tmp-${BUCKET}

euca-bundle-image -d /mnt/tmp-${BUCKET}/ -i ${KERNEL_IMG} --kernel true
euca-upload-bundle -b ${BUCKET} -m /mnt/tmp-${BUCKET}/${KERNEL_IMG}.manifest.xml
EKI=`euca-register ${BUCKET}/${KERNEL_IMG}.manifest.xml | gawk '{print $2}'`

euca-bundle-image -d /mnt/tmp-${BUCKET}/ -i ${RAMDISK_IMG} --ramdisk true
euca-upload-bundle -b ${BUCKET} -m /mnt/tmp-${BUCKET}/${RAMDISK_IMG}.manifest.xml
ERI=`euca-register ${BUCKET}/${RAMDISK_IMG}.manifest.xml | gawk '{print $2}'`

euca-bundle-image -d /mnt/tmp-${BUCKET}/ -i ${MACHINE_IMG} --kernel ${EKI} --ramdisk ${ERI}
euca-upload-bundle -b ${BUCKET} -m /mnt/tmp-${BUCKET}/${MACHINE_IMG}.manifest.xml
euca-register --architecture x86_64 ${BUCKET}/${MACHINE_IMG}.manifest.xml

で、このスクリプトを6並列実行したところで、えーと、何ていいましょう、まぁ、普通ありえないとは思うのですが、私の環境はちょっと特殊でして、まぁ、以下を見てください。

# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/sda2       9.2G  3.5G  5.3G  40% /
udev            7.8G  4.0K  7.8G   1% /dev
tmpfs           3.2G  280K  3.2G   1% /run
none            5.0M     0  5.0M   0% /run/lock
none            7.8G     0  7.8G   0% /run/shm
cgroup          7.8G     0  7.8G   0% /sys/fs/cgroup
/dev/sda5       445G   13G  410G   4% /mnt

まぁ、聡明な OpenStacker の皆さんならばきっとこれを見て m9(^Д^) ってなっていると思います。そう、実は /dev/sda5 にはいくつかディレクトリを用意しておいて、それらを /var/lib/glance/ や /tmp/ に bind マウントして今回のスクリプトを実行して

いえ~ぃ、glance*1 ジャイアントロック~www

って笑う予定でした。ところがそのマウント行為をすっかり忘れてしまい、当然ながらディスクフルを起してしまい、glance も nova-objectsoter も動作がおかしくなり、おまけに「やべー、12/03 の Advent Calendarに穴あけちゃうよー」って思って慌てて環境を掃除して再起動してみましたが、刻すでに遅し

/var/log/nova-api.log を見ると

2012-12-03 23:10:42 ERROR nova.api.openstack [req-7f54c557-1f6c-42f2-aa74-dd6ff5fd26b9 aac09b12b22d4f1b85bd8339d6688a43 f045
25346fd94c19a2a098212b93c5e6] Caught error: (OperationalError) (2003, "Can't connect to MySQL server on '192.168.33.101' (11
1)") None None

なんて素敵なエラーが吐かれています。mysql の DB が壊れてしまったんでしょうか?もうこの時点で 12/03 の終りが目前なのでそろそろオチを探さないとイケないのですが、まぁ、Twitter で事前にツブやいていたように

OpenStack に徹底的にイジメられる、許して、マジで

という結果になりました。ホント OpenStack コワイです。はい。

終り。

(ちなみに glance に euca2ools で同時にイメージを登録するとジャイアントロックされるのって diablo までですかね?もうとっくに並列処理可能になってます?)

*1 同僚から「節子、何叩いとるんや!これ nova-objectstore やろ。glance ちゃうやんか!!」とツッコまれました(;´Д`A

本日のツッコミ(全28件) [ツッコミを入れる]
_ @nginks (2012年12月04日 11:02)

おつかれさまでしたー。<br>ディスク関連って気付いた時には溢れていて元に戻らないってパターン多いですよね。明日は我が身、気をつけようとおもいました。

_ しだたかひろ (2012年12月04日 11:04)

euca2oolsでイメージ登録すると、この構成の場合nova-objectstoreに登録しに行くっぽいです。<br><br>ということで、GaintLockがかかるのはGlanceではなくObjectStoreさんの可能性が高いです。<br><br>そして、OpenStack屋的には<br>「ObjectStoreにロックかかるぜ!」と言われても痛くも痒くもない罠ですね。

_ おはぶ (2012年12月04日 12:16)

> @nginks さん<br>ありがとうございまーす。やっちゃいけないことだと身にしみているのに、本番環境じゃないとついついやっちゃいます f^^;<br>なので「OpenStack コワイ」っていうより「自分のうっかりがコワイ」ですねwww<br><br>> しださん<br>情報さんくすです。やっぱ nova コマンド glance コマンドを使えるようにならんと駄目ですかねwwww

_ famao (2012年12月08日 00:05)

え、ジャイアントロック? ってeventletの一つのgreen threadにcontext switchさせないままでかい処理させちゃうパターンとはまた別の? というのは社内で聞けっつー話か...

_ おはぶ (2012年12月08日 10:36)

全然原因を追ってなかったのでこんなお粗末な勘違いをしてたわけですが、とりあえずobjectsotreたんはRegister中は一切答えてくれないっすねー。DescribeImages すら待たされるので、「どんだけ大域でロックかけてんのさ?」と思った次第なんす T&T

_ モンクレール moncler (2013年08月08日 18:43)

クリスチャンルブタン シューズ モンクレール moncler http://www.forshoppingbalancejp.biz/

_ lv bags wholesale china (2013年08月10日 00:19)

Two of my pals who're pastry chefs have absent or black tooth. No joke. A little bit here and there is certainly good to make sure all is very good, but continuously, working day soon after day, provides up... lv bags wholesale china http://www.daskrachen.com/louis-vuitton-online/louis-vuitton-stores

_ louis vuitton sarah wallet (2013年08月10日 00:19)

Considering the fact that two many people have requested, I wanted to clarify concerning the purpose with the bags. It truly is absolutely correct which you could do that with out the bags. Actually, you could possibly choose to accomplish that. louis vuitton sarah wallet http://www.daskrachen.com/louis-vuitton-online/cheap-louis-vuitton-women-sale/cheap-lv-women-wallets-sale/cheap-mahina-leather-sale.html

_ louis vuitton sunglasses men (2013年08月10日 00:19)

You maylook at them to becomelow-cost designer purses as theprice tag was knocked down to obtain them soldquickly so the new line of stylish Italian purses can beplace out. Which iswhenever youwould like toinvest in as plenty ofwhen you can get your hands on, especially at a discounted promoting value. So the subsequent time you see a reduced expense designer purse produced by an genuine Italian designer, don't think twice to getone certain or more, given that they're nicelywell well worth the discounted price.. louis vuitton sunglasses men http://www.daskrachen.com/louis-vuitton-online/louis-vuitton-sunglasses-men

_ fake oakleys for sale (2013年08月11日 05:27)

955 Now you are likely to have some thing to have on once you eventually get that reservation at Cut.. fake oakleys for sale http://itsoktosay.com

_ Michael Kors vesker salg (2013年08月11日 17:11)

Yes, then you need to appear at shopping for a top excellent flapper gown pattern. Michael Kors vesker salg http://www.agderbonsai.com/hva_er_bonsai.htm

_ adidas predator (2013年08月11日 17:11)

Duplicate Lv belts that were inexpensive Louis Vuitton belts by way of the equivalent fashionable appearance as of your similar as the original one particular. adidas predator http://www.inmarinhousecleaning.com/soccer-cleats.htm

_ rift power level (2013年08月12日 06:26)

I favor a few rift power level http://www.u7buy.com/rift/rift-power-leveling.html the important point!

_ burberry outlet (2013年08月13日 03:46)

955 Now you can expect to have a specific thing to dress in as you last but not least get that reservation at Reduce.. burberry outlet http://www.hiivala.com/4.html

_ replica louis vuitton (2013年08月13日 03:55)

955 Now you will have a specific thing to use after you last of all get that reservation at Slice.. replica louis vuitton http://replicalouisvuitton.kimkeat.com

_ burberry scarf (2013年08月13日 04:00)

955 Now you can expect to have a thing to dress in when you ultimately get that reservation at Slice.. burberry scarf http://www.prestigeboardingkennel.com

_ louis vuitton outlet (2013年08月13日 15:09)

955 Now you may have one thing to dress in at the time you ultimately get that reservation at Cut.. louis vuitton outlet http://www.myonlinetrainings.com

_ wholesale jerseys (2013年08月13日 15:31)

955 Now you are going to have an item to use in case you at long last get that reservation at Slice.. wholesale jerseys http://www.sagelistings.com

_ replica louis vuitton (2013年08月13日 15:36)

955 Now you can expect to have one thing to don in case you last of all get that reservation at Slash.. replica louis vuitton http://techtete.com

_ michael kors outlet stores (2013年08月13日 17:44)

The feel of the fur is quick and soft, and it falls in an orderly way, no waves or curls. michael kors outlet stores http://www.partneringvirtually.com

_ where to get soccer jerseys (2013年08月13日 17:46)

This is unquestionably an amazing advantage should you be. where to get soccer jerseys http://www.web-hosting-report.com/soccer-jerseys.html

_ sac vanessa bruno (2013年08月13日 17:53)

Many people can drink socially and in no way have an issue with alcohol abuse or dependence. sac vanessa bruno http://www.jacarandavillage.org.au/fr/vanesabruno.html

_ vanessa bruno (2013年08月13日 17:53)

Without any doubt, LV Speedy bag is the most favourite among fashion lovers mainly because of its elegant, exquisite, and very charming appearance.. vanessa bruno http://www.rsmashvir.com/fr/vanessabruno.html

_ vanessa bruno pas cher (2013年08月13日 17:53)

T erityinen nimi on todella tunnustettu noin kehitty t maailmanlaajuisessa nimi tuotemerkin, joka mahdollisesti nostaa todellisessa liiketoiminnassa liian tarjoavan hankala hetki sinulle henkil kohti vastustajia. vanessa bruno pas cher http://www.universdecopil.ro/fr/sac.html

_ vanessa bruno (2013年08月13日 17:53)

Because of the imitation merchandise, LV turns into cheaper and cheaper in order that ordinate individuals can afford it. vanessa bruno http://www.itmildura.com.au/fr/cabasvb.html

_ hermes outlet (2013年08月13日 17:53)

Uma Thurman was concerning the verge of commencing her occupation and was going to acquire on a string of sexual movie roles. hermes outlet http://www.bandaschool.com/us/hm.html

_ cheap nfl jerseys (2013年08月13日 18:10)

855 There'll even be a bespoke region where clients can make specialorder baggage intended to totally match the Oscar de la Renta luncheon accommodate which might be obtained just down the road. cheap nfl jerseys http://www.coolwaterstables.com

_ a realm reborn power leveling (2013年08月13日 18:26)

These are typically most likely my fave a realm reborn power leveling http://www.mmogm.com/ffxiv/ffxiv-power-leveling.html i've Actually owned!I get a lot of compliments on them, even from strangers, and they are so stylish!! these are a necessity :)

[]