Для изменения разрешения экрана через реестр поменяйте значения в разделе
Раздел [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Hardware Profiles\0001\System\CurrentControlSet\Control\VIDEO\{23A77BF7-ED96-40EC-AF06-9B1F4867732A}\0000]
или
Раздел [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Hardware Profiles\0001\System\CurrentControlSet\Control\VIDEO\{C78A0283-9F8A-4101-B341-0D98DD1982F1}}\0000]
или
Раздел [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Hardware Profiles\0001\System\CurrentControlSet\Control\VIDEO\{B77D25DA-20D7-412D-B072-E8BDFBE74B5C}\0000\Mon10000080]
В зависимости от драйвера два последних идентификатора могут быть разными опираться можно на то какое на данный момент разрешение
Значение
типа dword :"DefaultSettings.XResolution" и "DefaultSettings.YResolution"
Значения разрешения вводите в десятичном формате.