解决LeetCode编译器报错的技巧：正确处理位操作中的数据类型

news2024/11/25 0:51:55

一天我在leetcode上刷题时，遇到了这样的题目：

随即我写了如下的代码：

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
    int flag = 1;
    while(flag)
    {
        if (C & flag)
        {
            count++;
        }
        flag<<=1;
    }
        
    return count;

}

但LeetCode显示如下报错：

我非常的纳闷，不知道哪里出了错误，我又去VS2022这个编译器上把上述代码试了一遍，发现没有任何报错，这时我就想明白了应该是LeetCode和VS2022这两个编译器的不同导致的。

我去网上搜查资料结果表明只需要将变量flag的类型改为无符号类型即可。

改动后的代码如下：

写法一：

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
    unsigned int flag = 1;
    while(flag)
    {
        if (C & flag)
        {
            count++;
        }
        flag<<=1;
    }
        
    return count;

}

在上述代码中，变量flag的类型必须设为unsigned int，是因为在循环中对flag进行左移操作（flag <<= 1）。根据C语言的规则，当对有符号整数进行左移操作时，如果左移操作导致最高位被设置为1，则结果是未定义的行为。这是因为有符号整数使用最高位来表示正负号，而不同的编译器可能对此有不同的处理方式。

因此，为了避免这种未定义行为，我们将flag的类型设置为unsigned int，这样在进行左移操作时，最高位就不再表示正负号，而只是普通的位操作。这样可以确保代码的行为在不同的编译器下都是一致的，并且不会受到符号位的影响。

写法二：

int convertInteger(int A, int B) {
    int count = 0;
    int C = A ^ B;
   for(int i=0;i<32;i++)
    {
        if (C & ((unsigned int)1<<i))
        {
            count++;
        }
    }
    return count;
}

将左操作数1改为unsigned int 类型，原理与写法一的原理一样。

右移和左移是否一样呢？

当对有符号整数进行右移操作时，C语言规定对于正数右移，空出的位应该用0填充；而对于负数右移，空出的位应该用符号位填充。因此，如果使用有符号整数进行右移操作，并且右移导致符号位发生变化，可能会导致不同编译器之间的行为不一致。

通过将类型设置为unsigned int，可以确保在右移操作时，不受符号位的影响，从而避免潜在的问题，保证代码的可移植性和一致性。