现象引出和问题猜想
有一款用户软件叫DosBox，在实体机win11的时候最大化的时候，程序界面可以铺满全屏，但是在winserver2016云桌面进行最大化的时候，最大化的时候，界面无法铺满全屏：
（实体机最大化，界面全屏显示）
（云桌面程序最大化主界面无法铺满全屏）
这到底是什么原因导致在云桌面下程序最大化就无法铺满全屏呢？首先我们猜测，程序之所以能够铺满全屏是因为程序在最大化的时候设置了桌面的显示分辨率，即最大化的时候把桌面的分辨率设低，退出最大化的时候，恢复桌面原来的分辨率。通过代码：
void GetCurrentResolution_imp()
{
DISPLAY_DEVICE DispDev;
Res temp;
for (auto iDevIdx = 0; iDevIdx < 2; iDevIdx++)
{
ZeroMemory(&DispDev, sizeof(DISPLAY_DEVICE));
DispDev.cb = sizeof(DISPLAY_DEVICE);
int dspNum = GetSystemMetrics(SM_CMONITORS); // 两个显示器为复制模式时，仅在1/2上显示时，值都为1
// 获取有关系统中显示设备的信息
if (EnumDisplayDevices(NULL, iDevIdx, &DispDev, 0))
{
DEVMODE devMode;
int display_id = 0;
if ((DispDev.StateFlags & DISPLAY_DEVICE_ATTACHED_TO_DESKTOP) != DISPLAY_DEVICE_ATTACHED_TO_DESKTOP)
continue;
if ((DispDev.StateFlags & DISPLAY_DEVICE_PRIMARY_DEVICE) == DISPLAY_DEVICE_PRIMARY_DEVICE
|| dspNum == 1) // 主显示器或者只在一个显示器显示
{
display_id = 0;
}
else
{
display_id = 1;
}
if (EnumDisplaySettings(DispDev.DeviceName, ENUM_CURRENT_SETTINGS, &devMode))
{
temp.dmPelsHeight = devMode.dmPelsHeight;
temp.dmPelsWidth = devMode.dmPelsWidth;
temp.display_id = display_id;
printf("w %d,h %d display_id %d\n", devMode.dmPelsWidth, devMode.dmPelsHeight, display_id);
}
}
}
}不断轮询获取桌面的分辨率，发现在实体机下程序最大化的时候确实将桌面的分辨率调低了：
（实体机原来桌面的分辨率是3456*2160，程序最大化的时候桌面分辨率被修改为640*480）
同样发现在云桌面下，DosBox同样把桌面分辨率调低了：
（云桌面原来桌面的分辨率是1920*1080，程序最大化的时候桌面分辨率被修改为1024*768）
这就发现可能是这两个系统可设置分辨率的最小值不一样，云桌面的可设置分辨率的最小值比较大，导致了，界面无法被拉伸显示很大。看看两台系统的可设置分辨率：
（实体机win11可设置最小分辨率为800*600 ）
（云桌面可设置最小分辨率为1024*768）
可以发现实体机win11可设置最小分辨率为800*600，DosBox设置的分辨率为：640*480
云桌面server2016可设置最小分辨率为1024*768，DosBox设置的分辨率为1024*768
于是我们猜测，因为两台系统的可设置最小分辨率不一样，导致云桌面设置的最小分辨率太大导致DosBox界面无法放的足够大来覆盖桌面；但是同时发现在实体机下设置的分辨率并不是系统可设置的最小分辨率，设置的640*480比系统可设置最小分辨率800*600低。
跟踪剖析问题
设置系统分辨率一般是通过ChangeDisplaySettings这个api：
void changeResolution()
{
DEVMODE DevMode;
EnumDisplaySettings(NULL, 0, &DevMode);
DevMode.dmFields = DM_PELSWIDTH | DM_PELSHEIGHT;
DevMode.dmPelsWidth = 1920;
DevMode.dmPelsHeight = 1200;
DevMode.dmDisplayFrequency = 30;
DevMode.dmBitsPerPel = 32;
ChangeDisplaySettings(&DevMode, 0);
}但是通过apimonitor进行api拦截，发现并未拦截到该api的调用，猜测程序并不是通过调用ChangeDisplaySettings来设置桌面分辨率的。把Doxbox.exe拖拽到ida上：
看到DosBox.exe导入表并没有导入ChangeDisplaySettings这个api，而且apimonitor也确实没抓取到程序对该api的调用，但是发现导入表导入了较多的opengl的函数。于是猜测程序是通过opengl的api来修改系统的分辨率的，通过百度我也发现了一篇文章：
确实发现有人通过SDL_SetVideoMode来设置桌面的分辨率，而且这个函数也是DoxBox调用过的。
但是通过ida看伪码发现他们调用方式并不一样：
SDL_SetVideoMode这个函数调用的地方也比较多的：
把SDL.dll拖拽到ida上，直接调试：
传入参数 a1（0x280） a2（0x190）应该是传入的需要设置的宽640*400，这个跟网络blog上对setvideomode函数调用一致，前两个参数分别是宽和高 。
通过调试发现程序是通过SDL_ListMode来获取可设置分辨率的列表，最后获取到最小的分辨率数组下标，最后得到v110为0x280，v109为0x1E0，即为宽640 高480，即这个就是最后设置的桌面分辨率，但是奇怪，系统可设置分辨率的列表并没有640*480，最小是800*600。那么就要分析SDL_ListModes这个函数了。
我在网络上找到这个api的用法：
然后到 http://www.libsdl.org/release/SDL-1.2.15/ （注意是这个版本，新版本在github上已经没有了这个api）下载源代码并编译。
我在源代码找到SDL_SetVideoMode这个函数，发现这个跟我在ida上调试的代码大致一致（因为SDL版本不同，所以源码还是有区别的）：
于是我写了测试代码，参数传入ida上传递的参数，然后进行调试：
调试到SDL_ListModes这个api：
发现获取分辨率列表就是通过获取SDL_modelist这个列表获取的，而这个SDL_modelist数组是怎么获取的呢，我在代码里面全局搜索看看该数组的引用，并发现一个函数DIB_AddMode：
好，应该就是在这里去把分辨率列表添加进去的，那到底是哪里调用的呢，打上断点顺藤摸瓜，重启程序进行调试，最后断点断在我打的断点下，看下调用堆栈：
好了，原来是在DIB_VideoInit这个api然后调用EnumDisplaySettings这个win api来获取系统桌面分辨率的了。
通过demo代码枚举出桌面的分辨率：
运行demo程序：
发现DosBox设置的屏幕分辨率其实就是枚举的最小分辨率，这个枚举的分辨率跟系统设置的分辨率是有差异的，并不是期初认为的一致的。
同时在DIB_SetVideoMode这个函数实现找到了改变分辨率的实现：
最后在apimonitor也抓取到了对ChangeDisplaySettingsExA(可能是之前版本调用的是这个api，所以api有所区别)的调用：
