ubuntu 20.04 LTS でKVMでfoltia2021年01月01日 15:42

完全に自分用メモ
 
結局全てを諦めたので、消し線入れた
 
インストーラをUSBから起動
パーティションを手動にして、ルートと/optに割る
swap作る
上がってくると、ipがついてないので
ip addr (ip address( dev (device名)でとりあえずIPを付与
SSHで入る
sudo ip route add default via (gateway) dev (device名) でdefaultゲートウェイを追加
/etc/systemd/resolv.conf を書き換えた上で
sudo systemctl restart systemd-resolvedでレゾルバを変更
systemd-resolve --status
でDNSが切り替わったことを確認
 
sudo apt update
sudo apt upgrade
 
途中でIPがdhcpに戻ることがある
一旦再起動する
  ip周りをもう一度設定
 
タイムゾーン変更
sudo timedatectl set-timezone Asia/Tokyo
時刻を確認
 
この辺を参考にKVM関連のパッケージをインストール
https://www.server-world.info/query?os=Ubuntu_20.04&p=kvm&f=1
 
br0を組んでネットワークの設定を実施
 
KVMはせめてvirt-managerで管理したいので最小限のGUIを
sudo apt install xfce4 xfce4-goodies
 
tightvncと連携
https://www.digitalocean.com/community/tutorials/how-to-install-and-configure-vnc-on-ubuntu-20-04-ja
 
インストールする仮想マシン用のisoを/var/lib/libvirt/images/に格納  
IOMMUを有効にする必要がある
この辺を参考にgrubの設定を変更
https://wiki.ubuntu.com/Kernel/KernelBootParameters
https://wiki.archlinux.jp/index.php/OVMF_%E3%81%AB%E3%82%88%E3%82%8B_PCI_%E3%83%91%E3%82%B9%E3%82%B9%E3%83%AB%E3%83%BC#IOMMU_.E3.81.AE.E6.9C.89.E5.8A.B9.E5.8C.96
 
Ubuntu 20.04はvfio-pciがカーネル組み込みなので
パススルーするデバイスはカーネルパラメーターで指定する
 
この辺を参考にオートサスペンドを解除
https://qiita.com/_takeuchi_/items/7bbe6f79f5e524347b2b
 
ホストにvncで接続し、シェルを開いて
xhost +
としてX windowの制限を解除
virt-manager
を実行して、仮想マシンをつくる
PCIパススルーもここで設定
ディスクコントローラーはvirtioではなくSATAにすること
 
foltiaのインストールを開始
外からたたけない場合はufwを無効化
sudo ufw disable
 
nicが不安定な場合は以下のいずれかの設定を試してみる
1.sudo echo 'on' > /sys/class/net/(device名)/power/control
2.カーネルパラメータでpcie_aspm=offを追加
3.sudo brctl setageing br0 0
4.sudo brctl stp br0 on
5.r8169の場合はr8168-dkmsへ入れ替える
複合要因のようで、まだ原因特定ならず…。

新年早々結局何が問題だったのか2021年01月04日 17:32

色々問題はあって

・ 何故かホストもゲストも定期的にpingが飛ばなくなる
  おま環だろ、と思わないでもないんだけど
  横でESXi上で動いているDebianのZabbixサーバーや
  他の機器は一切同じ事情が発生しない
  ※これは後述

・ KVMでパススルーしたPX-Q3PEが安定しない
  ゲスト上でmodprobeし直さないと再度録画できない

2番めが致命的で、これが結局諦める原因になった

あと、物理マシンに戻した今も1番目は発生していて、
色々やったけど原因の特定できず

・ CentOS 6.10(Foltia)とUbuntu Server 20.04LTSで発生
  ※原因は別の可能性あり
・ CentOSは、KVM上でも物理マシン上でも発生する
・ 物理マシンに戻したあともいろいろやってみた
・ 物理マシンの環境は
   Intel DN2800MT motherboard
    NICは、e1000e
   DDR3 4GB SoDIMM x 1
   Plex PX-Q3PE
   64GB SSD / 3TB HDD
・ Foltia 4.xのときは特に問題は起きていなかった

やったことは
・ ASPM周りの無効化
・ カーネルのNWパラメタの増加とかチューニング系
・ CPUpowerでgorverを変更
・ /sys/class/net/eth0/power/control をonに
・ USBのNICを使ってみる
・ NICのoffload系をethtooolで無効化
・ NICのringバス周りの数値をethtoolで増やす
・ NICのflowcontrolを切ってみる
・ sppedstepとかhyperthreadingを切ってみる

いずれもダメ感。正直疲れた。
落ちるときは
・ icmpもtcpも同時に止まる
・ 他の機器と同時に見ているとほぼ同時に止まる
・ dmesgや/var/log/messagesには何も出ない

せめてエラーが出てくれればなぁ、というところ。
CentOS6.9でe1000eのドライバが、というのは見たからそのせいなのかも…。USBでも出るけどなぁ…。

IPoE でフレッツ網を抜ける2021年01月11日 11:46

ふと突然思いついて、Sakura上に立てたpfsenseでsquidを上げてIPv6でリッスンして中継すれば、Sakuraまでフレッツ網をIPoEで抜けられるのでは、ということでテストしてみました

1.pfsenseでIPv6を有効に
2.SquidをインストールしてIPv6のみでリッスンする
3.許可アドレスにクライアント側のIPv6アドレスを/56なりで入れて
  アクセスを受け付けるようにする
4.端末でProxyサーバーとしてpfsenseのIPv6アドレスを指定

これでやってみると、ぴったり100Mbpsでるようになりました。
WindowsのインターネットオプションでIPv6アドレスをプロキシとして指定する場合は、アドレスを[]で括る必要があるようです。

ひかり電話ルーターとIPv62021年01月11日 12:39

 うちにはPR-S300NEという10年もののひかり電話ルーターがいるわけですが、色々調べてみると200Mhzのシングルコアということで、あまり性能の良い機械ではないようです。

 一応光ネクストハイスピードのころに来たものなので、額面上の下り200Mbpsは出るようになっているようですが…。

 IPoEになってIPv6のルーティングはこのルーターにさせるしかないわけですが、どうもここで処理遅延しているような気配。
 ひかり電話の優先設定とIPv6のパケットフィルタを試しに切ってみると、かなりIPv6の通信が安定した気がします。

 もちろん、ひかり電話ルーター直下に普通のルーターを置いてパケットフィルタしないとインターネット側から完全に無防備になってしまうのでそこは考慮が必要ですが…。

ESXi 6.7 用のRealtekのドライバ込みのカスタムイメージを作る2021年01月18日 00:38

まんま。
普通にESXi-Customizer-PS-v2.6.0を使うとうまく行かないので
代替手段のメモ

https://www.geekdecoder.com/how-to-customize-esxi-install-with-realtek-drivers/

これでいいようだ。