use machine version in vga default type selection

If we get an VM machine older than 2.9 we use the old selection
expression for the VGA type. This allows to live migrate VMs to PVE
5.0.
Also once kvm gets updated to 2.9 in PVE 4.4 newly started VMs will
use "std" as default VGA instead of cirrus.

Signed-off-by: Thomas Lamprecht <t.lamprecht@proxmox.com>

config: has_feature() take default for backup into account

fix #1405: sort pci ids by functions

QemuServer::lspci() iterates over /sys/bus/pci/devices which
doesn't guarantee any order which means functions sometimes
ended up in the wrong order and it was never clear which
one would get the additional options such as x-vga passed
to them.

fix #1229: more explicit spice port allocation

We cannot look for ports on "any" wildcard address while
letting qemu bind to "localhost", this may lead to a qemu
process occupying ::1 while the next search successfully
finds the same port available for IPv4's '*' address.

Instead, we now lookup the IP of the desired family for
'localhost'. Note that while we could simply be hardcoding
::1 or 127.0.0.1, with this code we are protocol agnostic.

fix #1417: check if storage has 'images' set in content

otherwise, qm and the api ignore this setting completely when creating
a vm

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>

check also pending changes when reverting/deleting

otherwise we are not able to revert/delete pending changes which
introduce a new config line

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>
(cherry picked from commit af6d2db4b3dd54dee517a3ae6a49eac43c068af9)

improve error on '{full, linked} clone not available' error

Signed-off-by: Thomas Lamprecht <t.lamprecht@proxmox.com>

print_cpu_device: remove unused variable

(cherry picked from commit df58868200447066dfc8fc3de87238407699c3fc)

Fix #1384: add missing decrement to calculation of socket-id

For calculation of "current_core" the input variable id is decremented.
For calculation of "current_socket" this decrement was missing resulting
in a wrong value when "cores" is set to 1.

Signed-off-by: Tobias Böhm <tb@robhost.de>
(cherry picked from commit 7032e08c858e99963009bec98984f94fd2ed4ed7)

build: run tests on build

rebased 35c78505d7373a6 from master

tests: fix broken snapshot create tests

by mocking de/activate vmstate volumes. these were broken by
3a8deb551f2c7648865437961b3593d11bf0591b, which introduced
activating/deactivating vmstate volumes for KRBD

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

tests: fix broken snapshot delete tests

these broke when the additional "snapshot-delete" lock was
introduced

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

tests: exit with -1 in case of failures

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

use ReuseAddr for vncproxy

to avoid "Socket already in use" errors, when quickly opening/closing
console sessions on the webinterface

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>

add rerror for all drives

it was missing for scsi, and it's supported for all kind of drive

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

turn off alarm timer after accepting a vnc connection

else we always get a failed task when the vnc connection is
running longer than $timeout

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>

update_vm: check whether opt is set before deleting

otherwise we get lots uninitialized warnings:

update VM 600: -delete unused7
Use of uninitialized value $data in split at /usr/share/perl5/PVE/JSONSchema.pm line 533.
Use of uninitialized value in concatenation (.) or string at /usr/share/perl5/PVE/API2/Qemu.pm line 1012.
Use of uninitialized value $volid in pattern match (m//) at /usr/share/perl5/PVE/QemuServer.pm line 1824.
Use of uninitialized value $volid in pattern match (m//) at /usr/share/perl5/PVE/Storage/Plugin.pm line 201.
Use of uninitialized value $volid in concatenation (.) or string at /usr/share/perl5/PVE/Storage/Plugin.pm line 205.

vs:

update VM 600: -delete unused7
cannot delete 'unused7' - not set in current configuration!

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

bump version to 4.0-110

Use backticks instead of single quotes in qm resize description

Single quoted text in asciidoc is rendered in man pages
with underlines, which makes the '+' symbol very similar to '+/-'

Backticks are rendered with monospace text in HTML, normal text
in man pages, and still readable in raw format.

defined() style cleanup

Check array existed before use.

This triggers if a qemu guest has a local unused disk.
The disk will migrate by offline disk migration, so it is not in the target_drives.

remove netcat6 dependency

By simply using a socket.

add Skylake to CPU Models

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>

Improve error message when trying to shrink a volume, fix typo

fix bad scsihw default value check

This was checking for scsihw being set in both branches
whereas lsi is also the default. Added the missing 'not'.

Fixes a bug where a VM with a disk with a scsi index >= 7
refused to start due to an invalid scsi id.

Reported-by: Friedrich Ramberger <f.ramberger@proxmox.com>

fix dependency

bump version to 4.0-109

skiplock standard option was moved to pve-common

this now need libpve-common-perl >= 4.0-92

don't pull HA modules for doc-generation

buildsys: use fakeroot for dpkg-deb

buildsys: use gzip -n to disable timestamps

buildsys: set PVE_GENERATING_DOCS for completions

bump version to 4.0-108

buildsys: job-safe deb target

change TLS cipher suite to HIGH

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

fix #1260: convert moved template disk to base

this was already possible manually via "qm template", but
doing it automatically when moving a disk of a template
makes more sense.

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

bump version to 4.0-107

add dependencies for common packages

libpve-guest-common-perl
libpve-common-perl

bump version to 4.0-106

only use scsi-block with explicit opt-in

since it can cause I/O errors and data corruption in low
memory or highly fragmented memory situations since Qemu 2.7

use scsi-hd by default instead

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

bump version to 4.0-105

use new PVE::Storage::check_volume_access()

Set zero $size and continue if volume_resize() returns false

Needed for some storages with backing block devices to do oonlinr resize.

Signed-off-by: Dmitry Petuhov <mityapetuhov@gmail.com>

bump version to 4.0-104

add setup_environment hook to CLIHandler classes

cleanup: drop superfluous condition in assignment

Its use later on already uses itself as condition.

add romfile option to hostpci

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add with-local-disks option for live storage migration

As Fabian as required,
add an extra flag "with-local-disks"  to enable live storage migration with localdisk.

default target storage is same sid than source, this can be overrided with
"targetstorage" option.

I will try improve this later, with optionnal mapping, disk by disk.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

cleanup: error messages

drive-mirror: bump timeout to 5s, add 30s inactivity timeout

drive-mirror: warn use POSIX::_exit on exec failure

cleanup: whitespaces & style

live clone_vm : suspend or freezefs before block-job-cancel

if qga is enabled, we try to freeze the fs before cancelling block job.
if not , we pause the vm.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add socat and unix socket for storage migration

This is a workaround for nbd infinite timeout connect

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add live storage migration with vm migration

This allow to migrate disks on local storage  to a remote node storage.

When the target node start, a new volumes are created and exposed through qemu embedded nbd server.

qemu drive-mirror is launch on source vm for each disk with nbd server as target.

when drive-mirror reach 100% of 1 disk, we don't complete the block jobs and begin mirror of next disk.
(mirroring are parralel, but we try to mirroring them 1 by 1 to avoid storage && network overload)

Then we live migrate the vm to destination node. (drive-mirror still occur at the same time).

We the vm is livemigrate (source vm paused, target vm pause), we complete the block jobs mirror.

When is done we stop the source vm and resume the target vm

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add qm nbdstop

we use it to stop remote nbd server

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add targetstorage to vm_start

This will create a new drive for each local drive found,
and start the vm with this new drives.

if targetstorage == 1, we use same sid than original vm disk

a nbd server is started in qemu and expose local volumes to network port

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

clone live vm : add support for multiple jobs

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qemu_drive_mirror : handle multiple jobs

we can use multiple drive_mirror in parralel.

block-job-complete can be skipped, if we want to add more mirror job later.

also add support for nbd uri to qemu_drive_mirror

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qmpclient : block-job-(complete|cancel) : set timeout to 10min

like query-block-jobs.

qmp socket can be busy when block job are running

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 4.0-103

destroy_vm: allow vdisk_free to fail

otherwise we end up with undeletable VM configs in case
vdisk_free fails (which could happen because of cluster-wide
lock contention, storage problems, ..).

Signed-off-by: Fabian Grünbichler <f.gruenbichler@proxmox.com>

Display volume size in log when doing a volume backup

Output before this patch
INFO: include disk 'scsi0' 'file=pve4tank:vm-402-disk-1'

Output after this patch:
INFO: include disk 'scsi0' 'file=pve4tank:vm-402-disk-1' 64G

we're mainly intersted by the volume size here, it was requested in #351

bump version to 4.0-102

and remove useless RELEASE

avoid "No balloon device has been activated" warnings in vmstatus

bump version to 4.0-101

allow migration of local qcow2 snapshots

we can migrate local snapshots when on zfs or dir storage with qcow2,
but the check was incorrect

we checked for if (zfs && !qcow2) instead of  if (zfs || qcow2)

Signed-off-by: Dominik Csapak <d.csapak@proxmox.com>

bump version to 4.0-100

allow insecure migrations from older qemu-servers

When trying to migrate a VM from a node with qemu server <= 4.0-92 to
a node with qemu server >= 4.0-93 we failed as the remote qemu-server
got no explicit migration_type' from the older qemu server on the
source.

Check if migration_type is defined on a incoming migration start, if
not set it.

Signed-off-by: Thomas Lamprecht <t.lamprecht@proxmox.com>

bump version to 4.0-99

qm agent: remove 'guest-' prefix from commands

qm agent: pass command as second required argument

usage: qm agent <vmid> <command>

qm agent: add output formatter

qm agent: directly return result

This is required for correct error handling. The previous
code simply cought all exceptions.

qm agent: enumerate possible guest commands

cleanup: reorder code so that emacs font-lock-mode works again

This is just a work around for emacs bugs.

qm agent: add command line completion for vmid

bump version to 4.0-98

Add qm agent.

This command makes it possible to run commnads on the Qemu-Guest-Agent if it is installed and running.

increase timeout from guest-fsfreeze-freeze

The qmp command 'guest-fsfreeze-freeze' issues in linux a FIFREEZE
ioctl call on all mounted guest FS.
This ioctl call locks the filesystem and gets it into an consistent
state. For this all caches must be synced after blocking new writes
to the FS, which may need a relative long time, especially under high
IO load on the backing storage.

In windows a VSS (Volume Shadow Copy Service) request_freeze will
issued. As of the closed Windows nature the exact mechanisms cannot
be checked but some microsoft blog posts and other forum post suggest
that it should return fast but certain workloads can still trigger a
long delay resulting an similar problems.

Thus try to minimize the error probability and increase the timeout
significantly.
We use 60 minutes as timeout as this seems a limit which should not
get trespassed in a somewhat healthy system.

See:
https://forum.proxmox.com/threads/22192/

see the 'freeze_super' and 'thaw_super' function in fs/super.c from
the linux kernel tree for more details on the freeze behavior in
Linux guests.

Signed-off-by: Thomas Lamprecht <t.lamprecht@proxmox.com>

bump version to 4.0-97

Add entry for windows 10 and 2016 support

All special flags for Windows 8 and Windows 2012 (win8 type)
are kept the same , since we set flags based on checking  if
/^win(\d+)$/ is greater than 6 or 7

bump version to 4.0-96

restrict monitor API to Sys.Modify for most commands

because these allow adding arbitrary devices to VMs (and
other potentially dangerous things).

whitelist 'info *' and 'help' as usable with just
VM.Monitor, if more are desired and requested they can be
added later.

bump version to 4.0-95

vm_shutdown: request 'stopped' state for HA enabled VMs

combine option 'format' with previous line (avoid emacs confusion)

use ha-manager 'stopped' state instead of 'disabled'

switch to 'ha-manager set'

ha-manager enabled/disabled will get removed

Signed-off-by: Thomas Lamprecht <t.lamprecht@proxmox.com>

vmstate snapshot : activate|deactivate volume

This fix vmstate snasphot on krbd volume

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qemu_volume_snapshot_delete : fix krbd snapshot delete

like for snapshot, we need to check if krbd is enabled, to known
if we need to use qmp delete-drive-snapshot or storage command directly

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

VZDump/QemuServer: set bless clas correctly

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

qxlnum: use $winversion

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

hv_vendor_id : for winversion >= 6 , not >=7.

as It was previously.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

cleanup windows version handling and hyperv enlightments

This cleanup windows guest os version handling,
with normalizing ostype with numbers in a new windows_version sub.

if($ostype eq 'wxp' || $ostype eq 'w2k3' || $ostype eq 'w2k') {
      $winversion = 5;
} elsif($ostype eq 'w2k8' || $ostype eq 'wvista') {
      $winversion = 6;
} elsif ($ostype =~ m/^win(\d+)$/) {
      $winversion = $1;
}

so we can simply do test on windows version with lower or upper version

Hyperv enlightments configuration is centralized
in a new add_hyperv_enlighments sub.

Also disable hyperv with win < 8 + ovmf.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

remove format_description from $met_fmt->{model}

remove unnecessary format_description from cputype

register new standard option 'pve-qm-image-format'

bump version to 4.0-94

fix add_throttle_desc - pass correct units