2023년 6월 11일 일요일

PowerVC 환경에서 LPM 수행 시, VLAN이 삭제되는 경우

서비스 가용성을 높이기 위해 하드웨어의 의존성을 최소로 구성해야하는 클라우드 환경에서는 서버가 VM의 이동이 발생할 수 밖에 없습니다. 

IBM Power System으로 구현된 Private Cloud 환경에서도 사용자의 요구에 따라 온라인 VM 이동 솔루션인 LPM(LivePartition Mobility)를 자주 사용할 수 있는데, 이러한 LPM은 HMC를 통해 수행할 수 도 있고 클라우드 스택 제품인 PowerVC를 통해 수행할 수 있습니다. 

 아래 내용은 PowerVC가 설치된 환경에서 발생할 수 있는 이슈로  발생할 수 있는 문제는 다음과 같습니다. 
- 서버 1에서 서버 2로 VM에 대한 LPM 중, 타켓 서버에서 특정 VLAN이 삭제되어 서비스에 문제가 있는 현상

이와 같은 문제는 자주 사용되지 않은 VLAN에 대해 PowerVC가 특정 서버에서 해당 VLAN을 사용하는 마지막 VM을 이동하거나 삭제한 경우 VLAN 정보를 삭제하는 것으로 PowerVC nova의 기본 설정 값 중 "autoated_powervm_vlan_cleanup" 기본 설정값이 True로 설정되어 있어 발생할 수 있습니다. 

"autoated_powervm_vlan_cleanup" 설정값은 아래와 같이 확인 및 수정은 다음과 같이 수행할 수 있습니다. 

1. PowerVC 로그인 
2. cd /etc/nova 
[root@powervc~]# cd /etc/nova 
[root@powervc nova]# ls -al
합계 496
drwxr-x---.   4 nova nova  4096  6월 12 11:02 .
drwxr-xr-x. 166 root root 12288 12월 16 18:23 ..
-rw-r-----.   1 root nova  3957  6월  3  2020 api-paste.ini
-rw-r-----.   1 root nova  2053  6월  3  2020 api_audit_map.conf
-rw-r-----.   1 nova nova   720 12월  7  2020 flavors-config-powerkvm.json
-rw-r-----.   1 nova nova  2606 12월  7  2020 flavors-config-powervm.json
-rw-r-----.   1 nova nova   397 12월  4  2019 hapolicy_conf.xml
-rw-r-----.   1 nova nova 70667  8월  5  2021 nova-824722L_841F58A.conf
-rw-r-----.   1 nova nova 70704 12월  9  2020 nova-828422A_21406CV.conf
-rw-r-----.   1 nova nova 70667 12월  9  2020 nova-828642A_84D7B4V.conf
-rw-r-----.   1 root nova   574  9월 15  2020 nova-health.conf
-rw-r-----.   1 nova nova 70090  8월  5  2021 nova.conf
-rw-r-----.   1 nova nova 59791  9월  7  2020 nova.conf.baseline
-rw-r-----.   1 root root 70090  6월 12 10:59 nova.lth
-rw-r-----.   1 root nova     4  9월  7  2020 policy.json
drwxr-xr-x.   2 root root  4096  9월 20  2020 powervc-health-policy
-rw-r-----.   1 nova nova    47  6월 12 11:18 prs_compute_node_status.json
-rw-r--r--.   1 root root    79  9월  7  2020 release
-rw-r-----.   1 root nova   966  9월  7  2020 rootwrap.conf
drw-r-----.   2 root nova     6  9월  7  2020 rootwrap.d
-rw-r-----.   1 nova nova  1952  2월 12  2020 rtpolicy_conf.xml
-rw-r-----.   1 nova nova  2297 12월 13  2020 rtpolicy_conf_powerkvm.xml.pvc
-rw-r-----.   1 nova nova  1952 12월 13  2020 rtpolicy_conf_powervm.xml.pvc

 3. nova 디렉토리에 있는 파일 중 nova.conf 및 nova-TYPEMODEL_SERIALNO.conf 등의 이름을 가진 모든 파일을 확인 
[root@powervc nova]# ls -al nova*.conf 
-rw-r-----. 1 nova nova 70667 8월 5 2021 nova-824722L_841F58A.conf 
-rw-r-----. 1 nova nova 70704 12월 9 2020 nova-828422A_21406CV.conf 
-rw-r-----. 1 nova nova 70667 12월 9 2020 nova-828642A_84D7B4V.conf 
-rw-r-----. 1 root nova 574 9월 15 2020 nova-health.conf 
-rw-r-----. 1 nova nova 70090 8월 5 2021 nova.conf 

4. 각 파일에 있는 "autoated_powervm_vlan_cleanup" 값 확인 
[root@powervc nova]# grep automated_powervm_vlan_cleanup nova*.conf 
nova-824722L_841F58A.conf:automated_powervm_vlan_cleanup = True 
nova-828422A_21406CV.conf:automated_powervm_vlan_cleanup = True 
nova-828642A_84D7B4V.conf:automated_powervm_vlan_cleanup = True 
nova.conf:automated_powervm_vlan_cleanup = True 

5. 각 파일의 "autoated_powervm_vlan_cleanup"설정값 수정 및 확인automated_powervm_vlan_cleanup = True --> automated_powervm_vlan_cleanup = False

[root@powervc nova]# grep automated_powervm_vlan_cleanup nova*.conf 
nova-824722L_841F58A.conf:automated_powervm_vlan_cleanup = False 
nova-828422A_21406CV.conf:automated_powervm_vlan_cleanup = False 
nova-828642A_84D7B4V.conf:automated_powervm_vlan_cleanup = False 
nova.conf:automated_powervm_vlan_cleanup = False 

6. PowerVC 서비스 재기동 
해당 설정은 특히 일부 VM들이 PowerVC 뿐만 아니라 사용자에 의해 별도 관리될 때 PowerVC에서 원치않은 SEA 설정 값 변경을 초래할 수 있기에 해당 값을 False로 설정하여 관리되어야 합니다. 

[root@powervc nova]# /opt/ibm/powervc/bin/powervc-services stop 
panko 서비스 중지 중... 
swift 서비스 중지 중... 
gnocchi 서비스 중지 중... 
validator 서비스 중지 중... 
clerk 서비스 중지 중... 
bumblebee 서비스 중지 중... 
health 서비스 중지 중... 
ceilometer 서비스 중지 중... 
nova 서비스 중지 중... 
neutron 서비스 중지 중... 
ego 서비스 중지 중... 
Shut down LIM on ...... done 
cinder 서비스 중지 중... 
glance 서비스 중지 중... 
rabbitmq 서비스 중지 중... 
httpd 서비스 중지 중... 
db 서비스 중지 중... 

[root@powervc nova]# /opt/ibm/powervc/bin/powervc-services start 
db 서비스 시작 중... 
httpd 서비스 시작 중... 
rabbitmq 서비스 시작 중... 
glance 서비스 시작 중... 
cinder 서비스 시작 중... 
ego 서비스 시작 중... 
neutron 서비스 시작 중... 
nova 서비스 시작 중... 
ceilometer 서비스 시작 중... 
health 서비스 시작 중... 
bumblebee 서비스 시작 중... 
clerk 서비스 시작 중... 
validator 서비스 시작 중... 
gnocchi 서비스 시작 중... 
swift 서비스 시작 중... 
panko 서비스 시작 중... 

[root@powervc nova]# /opt/ibm/powervc/bin/powervc-services status 
● panko-api.service - OpenStack Panko API Server Active: active (running) since 월 2023-06-12 11:12:48 KST; 2min 17s ago 
● openstack-swift-account.service - OpenStack Object Storage (swift) - Account Server Active: active (running) since 월 2023-06-12 11:12:47 KST; 2min 18s ago 
● openstack-swift-object.service - OpenStack Object Storage (swift) - Object Server Active: active (running) since 월 2023-06-12 11:12:48 KST; 2min 18s ago 
....... 
● httpd.service - The Apache HTTP Server Active: active (running) since 월 2023-06-12 11:12:41 KST; 2min 26s ago 
● memcached.service - Memcached Active: active (running) since 월 2023-06-12 11:12:41 KST; 2min 26s ago 
● mariadb.service - MariaDB database server Active: active (running) since 월 2023-06-12 11:12:41 KST; 2min 26s ago