<div dir="ltr">Thank you for the follow-up. It seems the requirements for live migration have been tightened considerably. <br><br>We used to live migrate between different architectures, but now both sides of a live migration must be exactly identical. Almost makes one want to go back to the openvz 6 days.<br><br>I&#39;ll work on finding an exact clone of my primary OVZ server and try again.<br><br>Thanks for the prompt response.<div><br></div><div>Jake</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Jun 16, 2019 at 4:38 AM Konstantin Khorenko &lt;<a href="mailto:khorenko@virtuozzo.com">khorenko@virtuozzo.com</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On 06/15/2019 08:21 PM, jjs - mainphrame wrote:<br>
&gt; Greetings -<br>
&gt;<br>
&gt; Live migration, which worked beautifully with openvz 10 years ago,  has stopped working in the current openvz 7 environment.<br>
&gt;<br>
&gt; When I first built ovz 7 servers a few years ago, live migration worked as it should. Within the past few months it stopped working. Thinking it might be a problem with tighter<br>
&gt; requirements on CPU matching, I repurposed the amd based ovz host and replaced it, so that both ovz hosts would be running on intel hardware.<br>
&gt;<br>
&gt; Unfortunately that did not change the issue. Note below -  both hosts running up to date ovz-7 non-factory.<br>
&gt;<br>
&gt; The command -<br>
&gt; [root@annie ~]# vzmigrate --online --nodeps hachi 1987<br>
&gt; Connecttion to destination node (hachi) is successfully established<br>
&gt; Moving/copying CT 1987 -&gt; CT 1987, [], [] ...<br>
&gt; locking 1987<br>
&gt; Checking bindmounts<br>
&gt; Check cluster ID<br>
&gt; Checking keep dir for private area copy<br>
&gt; Checking technologies<br>
&gt; Checking IP addresses on destination node<br>
&gt; Checking RATE parameters in config<br>
&gt; Checking ploop format 2<br>
&gt; copy CT private /vz/private/1987<br>
&gt; Live migration stage started<br>
&gt; Compression is enabled<br>
&gt; Phaul service failed to live migrate CT<br>
&gt; Phaul failed to live migrate CT (/var/log/phaul.log)<br>
&gt; Can&#39;t move/copy CT 1987 -&gt; CT 1987, [], [] : Phaul failed to live migrate CT (/var/log/phaul.log)<br>
&gt; unlocking 1987<br>
&gt; [root@annie ~]#<br>
&gt;<br>
&gt; Contents of phaul.log -<br>
&gt; --<br>
&gt; 10:01:16.569: 17149:<br>
&gt; 10:01:16.569: 17149:<br>
&gt; 10:01:16.570: 17149:<br>
&gt; 10:01:16.570: 17149: Starting p.haul<br>
&gt; 10:01:16.570: 17149: Use existing connections, fdrpc=11 fdmem=13 fdfs=root.hdd/root.hds:15<br>
&gt; 10:01:16.589: 17149: Setting up local<br>
&gt; 10:01:16.589: 17149: Loading config file from /etc/vz/conf/<br>
&gt; 10:01:16.590: 17149: Initialize ploop hauler<br>
&gt; 10:01:16.590: 17149: `- /vz/private/1987/root.hdd/root.hds<br>
&gt; 10:01:16.616: 17149: Passing (ctl:12, data:10) pair to CRIU<br>
&gt; 10:01:16.616: 17149: Set maximum number of open file descriptors to 1048576<br>
&gt; 10:01:16.618: 17149: Setting up remote<br>
&gt; 10:01:16.704: 17149: Start migration in live mode<br>
&gt; 10:01:16.704: 17149: Checking criu version<br>
&gt; 10:01:16.757: 17149: Checking for Dirty Tracking<br>
&gt; 10:01:16.758: 17149: `- Explicitly enabled<br>
&gt; 10:01:16.758: 17149: Preliminary FS migration<br>
&gt; 10:01:34.968: 17149: Fs driver transfer 1327497216 bytes (~1266Mb)<br>
&gt; 10:01:34.968: 17149: * Iteration 0<br>
&gt; 10:01:35.074: 17149: Making directory /vz/dump/1987/dmp-VTSUxn-19.06.15-10.01/img/1<br>
&gt; 10:01:35.075: 17149: Issuing pre-dump command to service<br>
&gt; 10:01:36.120: 17149: Dumped 28561 pages, 0 skipped<br>
&gt; 10:01:36.120: 17149: Fs driver transfer 0 bytes<br>
&gt; 10:01:36.120: 17149: Checking iteration progress:<br>
&gt; 10:01:36.120: 17149: &gt; Proceed to next iteration<br>
&gt; 10:01:36.120: 17149: * Iteration 1<br>
&gt; 10:01:36.122: 17149: Making directory /vz/dump/1987/dmp-VTSUxn-19.06.15-10.01/img/2<br>
&gt; 10:01:36.122: 17149: Issuing pre-dump command to service<br>
&gt; 10:01:37.751: 17149: Dumped 360 pages, 28201 skipped<br>
&gt; 10:01:37.751: 17149: Fs driver transfer 0 bytes<br>
&gt; 10:01:37.751: 17149: Checking iteration progress:<br>
&gt; 10:01:37.751: 17149: &gt; Proceed to next iteration<br>
&gt; 10:01:37.751: 17149: * Iteration 2<br>
&gt; 10:01:37.754: 17149: Making directory /vz/dump/1987/dmp-VTSUxn-19.06.15-10.01/img/3<br>
&gt; 10:01:37.754: 17149: Issuing pre-dump command to service<br>
&gt; 10:01:38.485: 17149: Dumped 361 pages, 28200 skipped<br>
&gt; 10:01:38.485: 17149: Fs driver transfer 0 bytes<br>
&gt; 10:01:38.485: 17149: Checking iteration progress:<br>
&gt; 10:01:38.485: 17149: &gt; Too many iterations<br>
&gt; 10:01:38.485: 17149: Final dump and restore<br>
&gt; 10:01:38.487: 17149: Making directory /vz/dump/1987/dmp-VTSUxn-19.06.15-10.01/img/4<br>
&gt; 10:01:38.545: 17149: Issuing dump command to service<br>
&gt; 10:01:38.547: 17149: Notify (pre-dump)<br>
&gt; 10:01:38.555: 17149: Notify (network-lock)<br>
&gt; 10:01:38.579: 17149: Action script /usr/libexec/criu/scripts/nfs-ports-allow.sh finished with exit code 0<br>
&gt; 10:01:38.580: 17149: Notify (post-network-lock)<br>
&gt; 10:01:41.047: 17149: Final FS and images sync<br>
&gt; 10:01:41.441: 17149: Sending images to target<br>
&gt; 10:01:41.442: 17149: Pack<br>
&gt; 10:01:41.493: 17149: Add htype images<br>
&gt; 10:01:41.722: 17149: Asking target host to restore<br>
&gt; 10:01:42.635: 17149: Remote exception<br>
&gt; 10:01:42.636: 17149: I/O operation on closed file<br>
&gt; Traceback (most recent call last):<br>
&gt;   File &quot;/usr/libexec/phaul/p.haul&quot;, line 9, in &lt;module&gt;<br>
&gt;     load_entry_point(&#39;phaul==0.1&#39;, &#39;console_scripts&#39;, &#39;p.haul&#39;)()<br>
&gt;   File &quot;/usr/lib/python2.7/site-packages/phaul/shell/phaul_client.py&quot;, line 49, in main<br>
&gt;     worker.start_migration()<br>
&gt;   File &quot;/usr/lib/python2.7/site-packages/phaul/iters.py&quot;, line 161, in start_migration<br>
&gt;     self.__start_live_migration()<br>
&gt;   File &quot;/usr/lib/python2.7/site-packages/phaul/iters.py&quot;, line 232, in __start_live_migration<br>
&gt;     self.target_host.restore_from_images()<br>
&gt;   File &quot;/usr/lib/python2.7/site-packages/phaul/xem_rpc_client.py&quot;, line 26, in __call__<br>
&gt;     raise Exception(resp[1])<br>
&gt; Exception: I/O operation on closed file<br>
&gt; --<br>
&gt;<br>
&gt; Dump directory contents are also available -<br>
&gt;<br>
&gt; Shall I open a bug report?<br>
<br>
Yes, file a bug please.<br>
<br>
--<br>
Best regards,<br>
<br>
Konstantin Khorenko,<br>
Virtuozzo Linux Kernel Team<br>
<br>
_______________________________________________<br>
Users mailing list<br>
<a href="mailto:Users@openvz.org" target="_blank">Users@openvz.org</a><br>
<a href="https://lists.openvz.org/mailman/listinfo/users" rel="noreferrer" target="_blank">https://lists.openvz.org/mailman/listinfo/users</a><br>
</blockquote></div>