<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=Windows-1252">
</head>
<body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;">
Edward,
<div><br>
</div>
<div>can you send me in private email output of:</div>
<div># pstorage -c &lt;cluster&gt; stat</div>
<div>output?</div>
<div><br>
</div>
<div>Do you have a skype?</div>
<div><br>
</div>
<div>Thanks,</div>
<div>Kirill</div>
<div><br>
<div><br>
</div>
<div><br>
<div>
<div>On 29 Jan 2014, at 10:26, Edward Konetzko &lt;<a href="mailto:konetzed@gmail.com">konetzed@gmail.com</a>&gt; wrote:</div>
<br class="Apple-interchange-newline">
<blockquote type="cite">
<div bgcolor="#FFFFFF" text="#000000">
<div class="moz-cite-prefix">On 01/28/2014 09:51 AM, Kir Kolyshkin wrote:<br>
</div>
<blockquote cite="mid:CAGmPdrydKUc&#43;AgQh=A1-tPeDEdb7yVO0uEA6=Z23A&#43;OW9QK14w@mail.gmail.com" type="cite">
<div dir="ltr">
<div class="gmail_extra">
<div class="gmail_quote">On 28 January 2014 02:55, Kirill Korotaev <span dir="ltr">
&lt;<a moz-do-not-send="true" href="mailto:dev@parallels.com" target="_blank">dev@parallels.com</a>&gt;</span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0px 0px 0px
0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">
<div class="im">&gt;&gt; On 25 Jan 2014, at 07:38, Rene C. <a moz-do-not-send="true" href="mailto:openvz@dokbua.com">
openvz@dokbua.com</a> wrote:<br>
&gt;&gt;<br>
&gt;<br>
&gt; Hi,<br>
&gt;<br>
&gt; I read the website about the cloud storage and I found some words, which seems familiar for me.<br>
&gt;<br>
&gt; May I ask, which filesystem do you use to be able to regularly scrub and self-heal the filesystem?<br>
&gt;<br>
&gt; Personaly I use zfsonlinux in production for a long time now and I am very satisfied with it, and based on your description, it seems you should use something like that and something on top of the native filesystem to get a cloud storage.<br>
&gt;<br>
&gt; Or you use a ceph or alike &quot;filesystem&quot;, which has similar capabilities with cloud features.<br>
<br>
</div>
It’s more like a ceph. Data is stored in a distributed way, so unlike to zfs you have access to the data even in case of node failure (crash, CPU/memory fault etc.) and access is available from ANY cluster node.<br>
As such we store the data and maintain checksums on every node and can do periodic scrubbing of the data.<br>
</blockquote>
<div><br>
</div>
<div>Just to clarify -- this is Parallels own distributed/cloud filesystem, not CEPH or GlusterFS,</div>
<div>but similar to. For more info, check the links at&nbsp;<a moz-do-not-send="true" href="https://openvz.org/Parallels_Cloud_Storage#External_links">https://openvz.org/Parallels_Cloud_Storage#External_links</a></div>
</div>
<br>
</div>
</div>
<br>
<fieldset class="mimeAttachmentHeader"></fieldset> <br>
<pre wrap="">_______________________________________________
Users mailing list
<a class="moz-txt-link-abbreviated" href="mailto:Users@openvz.org">Users@openvz.org</a>
<a class="moz-txt-link-freetext" href="https://lists.openvz.org/mailman/listinfo/users">https://lists.openvz.org/mailman/listinfo/users</a>
</pre>
</blockquote>
Setup a cluster using Centos 6.5 64bit, fresh install in KVM instances.&nbsp; I wanted to test functionality not actual speed.
<br>
<br>
All software was latest as of last night and I followed the quick how to here <a class="moz-txt-link-freetext" href="https://openvz.org/Parallels_Cloud_Storage">
https://openvz.org/Parallels_Cloud_Storage</a><br>
<br>
Everything works great until I try to create an instance using the command &quot;vzctl create 101 --layout ploop --ostemplate centos-6-x86_64 --private /pcs/containers/101&quot; from the docs.<br>
<br>
About one mb of data is written to disk and then it just hangs.&nbsp; The following is output from dmesg<br>
<br>
[&nbsp; 360.414242] INFO: task vzctl:1646 blocked for more than 120 seconds.<br>
[&nbsp; 360.414770] &quot;echo 0 &gt; /proc/sys/kernel/hung_task_timeout_secs&quot; disables this message.<br>
[&nbsp; 360.415406] vzctl&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; D ffff88007e444500&nbsp;&nbsp;&nbsp;&nbsp; 0&nbsp; 1646&nbsp;&nbsp; 1611&nbsp;&nbsp;&nbsp; 0 0x00000084<br>
[&nbsp; 360.415418]&nbsp; ffff88007ea59a68 0000000000000086 ffff8800ffffffff 000006b62934b8c0<br>
[&nbsp; 360.415428]&nbsp; 0000000000000000 ffff88007e9f2ad0 0000000000005eaa ffffffffad17694d<br>
[&nbsp; 360.415437]&nbsp; 000000000ad7ef74 ffffffff81a97b40 ffff88007e444ac8 000000000001eb80<br>
[&nbsp; 360.415452] Call Trace:<br>
[&nbsp; 360.415492]&nbsp; [&lt;ffffffff81517353&gt;] io_schedule&#43;0x73/0xc0<br>
[&nbsp; 360.415516]&nbsp; [&lt;ffffffff811f39b3&gt;] wait_on_sync_kiocb&#43;0x53/0x80<br>
[&nbsp; 360.415537]&nbsp; [&lt;ffffffffa04dbf47&gt;] fuse_direct_IO&#43;0x167/0x230 [fuse]<br>
[&nbsp; 360.415558]&nbsp; [&lt;ffffffff8112e948&gt;] mapping_direct_IO&#43;0x48/0x70<br>
[&nbsp; 360.415567]&nbsp; [&lt;ffffffff811301a6&gt;] generic_file_direct_write_iter&#43;0xf6/0x170<br>
[&nbsp; 360.415576]&nbsp; [&lt;ffffffff81130c8e&gt;] __generic_file_write_iter&#43;0x32e/0x420<br>
[&nbsp; 360.415585]&nbsp; [&lt;ffffffff81130e05&gt;] __generic_file_aio_write&#43;0x85/0xa0<br>
[&nbsp; 360.415594]&nbsp; [&lt;ffffffff81130ea8&gt;] generic_file_aio_write&#43;0x88/0x100<br>
[&nbsp; 360.415605]&nbsp; [&lt;ffffffffa04da085&gt;] fuse_file_aio_write&#43;0x185/0x430 [fuse]<br>
[&nbsp; 360.415623]&nbsp; [&lt;ffffffff811a530a&gt;] do_sync_write&#43;0xfa/0x140<br>
[&nbsp; 360.415641]&nbsp; [&lt;ffffffff8109d930&gt;] ? autoremove_wake_function&#43;0x0/0x40<br>
[&nbsp; 360.415655]&nbsp; [&lt;ffffffff812902da&gt;] ? strncpy_from_user&#43;0x4a/0x90<br>
[&nbsp; 360.415664]&nbsp; [&lt;ffffffff811a55e8&gt;] vfs_write&#43;0xb8/0x1a0<br>
[&nbsp; 360.415671]&nbsp; [&lt;ffffffff811a5ee1&gt;] sys_write&#43;0x51/0x90<br>
[&nbsp; 360.415681]&nbsp; [&lt;ffffffff8100b102&gt;] system_call_fastpath&#43;0x16/0x1b<br>
<br>
Even just trying to create a 10k file with dd causes a task to hang.&nbsp; &quot;dd if=/dev/zero of=/pcs/test.junk bs=1k count=10&quot;<br>
<br>
<br>
Any ideas? Anymore info you would like for debugging.&nbsp; <br>
</div>
_______________________________________________<br>
Users mailing list<br>
<a href="mailto:Users@openvz.org">Users@openvz.org</a><br>
https://lists.openvz.org/mailman/listinfo/users<br>
</blockquote>
</div>
<br>
</div>
</div>
</body>
</html>