white space cleanups

add custom numa topology support

numaX: cpus=<id[-id],memory=<mb>[[,hostnodes=<id[-id]>][,policy=<preferred|bind|interleave>]]

example:
-------
sockets:4
cores:2
memory:4096
numa: 1
numa0: cpus=0-1,memory=1024,hostnodes=0-1,policy=interleave
numa1: cpus=2-3,memory=3072,hostnodes=2,policy=bind

qemu command line
-----------------
-object memory-backend-ram,size=1024M,policy=interleave,host-nodes=0-1,id=ram-node0
-numa node,nodeid=0,cpus=0-1,memdev=ram-node0

-object memory-backend-ram,size=3072M,policy=bind,host-nodes=2,id=ram-node1
-numa node,nodeid=1,cpus=2-3,memdev=ram-node1

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add numa options v3

This enable numa support inside the guest, and share the memory and cores across the sockets numa nodes.

numa: 0|1

example:
-------
sockets:2
cores:2
memory:4096
numa: 1

qemu command line
-----------------
-object memory-backend-ram,size=2048,id=ram-node0
-numa node,nodeid=0,cpus=0-1,memdev=ram-node0
-object memory-backend-ram,size=2048,id=ram-node1
-numa node,nodeid=1,cpus=2-3,memdev=ram-node1

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.3-6

Fix in PVE::QemuServer::snapshot_create

remove the freezefs flag.
If Qemu Guest Agent flag is set in config the vm filesystem will always be frozen,
unless we save RAM.

also remove param freezefs in PVE::API2 snapshot,
because there is no use for it.

Signed-off-by: Wolfgang Link <wolfgang@linksystems.org>
Signed-off-by: Dietmar Maurer <dietmar@proxmox.com>

snapshot_create: fix bug from prev. commit, consider $freezefs parameter

snapshot_create: use guest-fsfreeze-freeze if possible

Signed-off-by: Wolfgang Link <wolfgang@linksystems.org>
Signed-off-by: Dietmar Maurer <dietmar@proxmox.com>

qmpclient: use guest-sync-delimited

bump version to 3.3-5

drive-mirror: avoid division by zero bug

qmpclient: fix mux_input regex

qmpclient: improve error handling

simplify code by using vm_qmp_command() directly

qmpclient: code cleanup, execute qga and qmp in parallel

shutdown by Qemu Guest Agent if the agent flag in the config is set

Important: "guest-shutdown" returns only by error a message.

Signed-off-by: Wolfgang Link <wolfgang@linksystems.org>

qmpclient: now if the QMP command starts with guest-+ , it will bind dynamicly to the VMID.qga socket

Signed-off-by: Wolfgang Link <wolfgang@linksystems.org>

qmpclient-qga : mux_input : parse qga result

result sample:

first json is guest-sync result, second json is command result

{ "return": 123456}\n{"return": {}}

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>
Signed-off-by: Dietmar Maurer <dietmar@proxmox.com>

qmpclient-qga : build qga command

example of command:

first json is guest-sync to sync and flush the client, second json is the command

{ "execute": "guest-sync", "arguments": { "id": 123456 } }{"execute":"guest-ping"}

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qmpclient-qga : do not sent qmp_capabilities for qga

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qmpclient-qga : cmdid : use integer instead string

qga client use only integer as id

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qmpclient-qga : add qga param to qmp_socket

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

qmpclient-qga : add qga option at object creation

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add vm_qga_command

and reuse vm_qmp_command && qmp_socket with $qga param

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

code cleanups

savevm-end : wait that savevm is finished

savevm-end is async, we need to wait that savevm is finished, before continue.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

serial: allow to pass arbitrary device names

Add check if host has enough real CPUs for starting VM

To prevent a Qemu CPU emualtion!

Signed-off-by: Wolfgang Link <wolfgang@linksystems.org>

qemu_drive_mirror: cleanup, avoid code duplication

qemu_drive_mirror: raise exception if we cannot parse $dst_volid

bump version to 3.3-3

delete trailing whitespace

block-job-complete : retry if block job cannot be complete

Even if we check the busy flag, we can have sometime race condition if new write
are coming between the query-block-job and the block-job-complete.

block-job-complete throw an error "The active block job for device '%(name)' cannot be completed"

we just need to retry in this case.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.3-2

cleanup: do not entry wait loop if block-job-cancel() fails.

drive-mirror : wait that busy eq false before block-job-complete

When the drive-mirror is at 100%, and write occurs, the busy flag can change from false->true

- 100% no new writes

transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false

- 100% new writes

transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: true
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: true
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: true

- 100% no new writes

transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false
transferred: 1073741824 bytes remaining: 0 bytes total: 1073741824 bytes progression: 100.00 % busy: false

So, we need to check that busy is false before doing the block-job-complete.

Also, we force the vm to pause, if it's busy for more than 120s when drive-mirror is at 100%

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

block-job-cancel : wait that jobs is really finished

block-job-cancel is async, we need to check that job is really finished

before try to free the volume

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.3-1

enable write zeroes optimisations

This enable write zeroes optimisation inside guest.

(I have tested them with qcow2,raw (ext4|xfs) , zfs|iscsi and nfs too.

No impact if the block driver don't support it yet (like rbd)

https://lists.nongnu.org/archive/html/qemu-devel/2014-04/msg00009.html

> a) mkfs.ext4 -E lazy_itable_init=0,lazy_journal_init=0 /dev/vdX
>
> QCOW2         [off]     [on]     [unmap]
> -----
> runtime:       14secs    1.1secs  1.1secs
> filesize:      937M      18M      18M
>
> iSCSI         [off]     [on]     [unmap]
> ----
> runtime:       9.3s      0.9s     0.9s
>
> b) dd if=/dev/zero of=/dev/vdX bs=1M oflag=direct
>
> QCOW2         [off]     [on]     [unmap]
> -----
> runtime:       246secs   18secs   18secs
> filesize:      51G       192K     192K
> throughput:    203M/s    2.3G/s   2.3G/s
>
> iSCSI*        [off]     [on]     [unmap]
> ----
> runtime:       8mins     45secs   33secs
> throughput:    106M/s    1.2G/s   1.6G/s
> allocated:     100%      100%     0%

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add iothread/dataplane support

new config option:

iothread: 1|0

This enable iothread/dataplane support, to improve io performance on fast storages

Currently block jobs don't work yet, it's planned for qemu 2.2.
So it's better to not expose yet this option in gui.

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-35

fix bug #542: return VMID as integer

bump version to 3.1-34

vm_devices_list : also list block devices

This allow scsi disk to be plug|unplug

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

Currently,if we don't have a "machine" option in running config, and we take a vmstate snapshot

the machine option is write in the snapshot (ok), but also in the running config (bad)

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>
Signed-off-by: Dietmar Maurer <dietmar@proxmox.com>

allow hotplug of virtio-scsi disks

It was an old protection, it's working fine now

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-33

clone_vm: auto generate new uuid

bump version to 3.1-32

add Broadwell cpu model

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-31

generate spice devices cmd line after pci bridge

we should push to $devices array instead $cmd array,

because pci bridges need to be create before spice devices

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-30

bump max hostpci to 4

user need to passthough 3 devices here
http://forum.proxmox.com/threads/19134-KVM-passtrought-PciExpress-3-card

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

vga=none if x-vga passthrough is enabled

we need to disable virtual vga card if we passthrough a physical gpu

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-29

vm_stop: do not use ha commands if $migratedfrom is set

bump version to 3.1-28

disable kvm cpu signature if x-vga is enabled

see
http://git.qemu.org/?p=qemu.git;a=commit;h=f522d2acc549dd11f495048330aa5f3f424a7dfa

last nvdia drivers don't install in kvm machine if they detect kvm signature.

This patch hide kvm signature in cpuflags (but don't disable kvm)

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-27

Reset device only if has_fl_reset is defined

Signed-off-by: Kamil Trzciński <ayufan@ayufan.eu>

bump version to 3.1-26

snapshot_delete: reorder parent "connection" after prepare

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

API2: remove require full parameter for snapshot cloning

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

pass snapname to PVE::Storage::vdisk_clone

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

bump version to 3.1-25

allow resize of virtio windows boot disk

virtio-win-0.1-74  have fixed the resize bug of virtio boot disk

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

auto generate uuid on VM create

Other VM environments also generates an UUID by default.

require 'VM.Config.HWType' priviledge to change new smbios1 option

bump version to 3.1-24

new option smbios1: specify SMBIOS type 1 fields (uuid, ...)

bump version to 3.1-23

vncproxy: remove check if VM is running

Because this does not work when VM is on other cluster node.

bump version to 3.1-22

add pci multifunction unbind support

we need to unbind each functions of a multifunction pci device

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add pci multifunction support

multifunction device should be define without the .function

hostpci0: 00:00

example
-------
if 00:00.0
   00:00.1
   00:00.2

exists,

then we generate the multifunction devices

-device (pci-assign|vfio-pci),host=00:00.0,id=hostpci0.0,bus=...,addr=0x0.0,multifunction=on
-device (pci-assign|vfio-pci),host=00:00.1,id=hostpci0.1,bus=...,addr=0x0.1
-device (pci-assign|vfio-pci),host=00:00.2,id=hostpci0.2,bus=...,addr=0x0.2

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add pcie and x-vga passthrough

hostpci0:  .....,x-vga=on,pcie=1

x-vga require kernel 3.10 with vfio-vga support enable
if x-vga=on, we force vfio-pci device

pcie=1 choose the pciexpress bus (need q35 machine model)

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

vncproxy: add check if VM is running

To provide better eror message for console task.

bump version to 3.1-21

protect websocket API with vncticket

fix a typo

bump version to 3.1-20

vncwebsocket: do not proxy connection

bump version to 3.1-19

do not use novnc wsproxy

Instead, we use new HTTPServer features.

added support for vfio-pci passthrough

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

cleanup previous patch

enable q35 machine support

q35 use pcie.0 root by default. so currently we can't start machine model q35.

we need to add 3 pci-bridge pci.0, pci.1, pci.2, to handle our devices.

pcie.0 does not support hotplug. so pci-bridge are defined at startup.

I use an pve-q35.cfg (mostly the same than q35-chipset.cfg from qemu docs).

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

bump version to 3.1-18

migration : add setup state

since qemu 1.5, they are a new migration state : "setup"

it's mainly use for rdma migration, but slow vm can it see and hang on migration

http://git.qemu.org/?p=qemu.git;a=commit;h=3b6959506831193f37cc830c8e111b437c0d1380

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

depend on novnc-pve

cleanup VNC websocket patch

Pass ticket via ENV{LC_PVE_TICKET} to vncproxy. Also remove 'unsecure' option, because
this is implied if we want a websocket connection.

API2/Qemu: add unsecure and websocket options to vncpoxy also set qemu vnc server properties on the fly

Signed-off-by: Stefan Priebe <s.priebe@profihost.ag>

add virtio-net multiqueue support

this a new option queue=(\d+) to net interface

Allow to use more than 1 cpu for network stream, so this can improve network bandwidth,
when vhost-net cpu is the bottleneck

http://www.linux-kvm.org/page/Multiqueue#Enable_MQ_feature

-netdev tap,vhost=on,queues=N -device virtio-net-pci,mq=on,vectors=2N+2

host requirement
----------------
this require host kernel >= 3.8 (or qemu die at start)

linux guest requirement
-----------------------
kernel >= 3.8

manual enabling multiqueue

windows guest requierement
--------------------------
recent virtio-net driver

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add option iscsi only once

We simply add option iscsi if we have an initiator name. So we
never add this option multiple times, and it works with hotplug
in case someone plugs an 'iscsi:' drive later.

cleanup previous commit - use IO::File

add initiator-name to iscsi drives if configured

Signed-off-by: Michael Rasmussen <mir@datanom.net>

print_net : add firewall option

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

do not ignore errors on tap_unplug

add pve-bridgedown script

This allow to delete fwbr bridge, link interfaces, cleanup ovs
when vm is shutdown

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>

add firewall option to qemu network interface

this allow to disable firewall for a specific interface

Signed-off-by: Alexandre Derumier <aderumier@odiso.com>