2 進数と 16 進数

決まった幅の器を超えると何が起きるか

値が器の幅を超えると、上の桁が捨てられて小さな値に化けるか、プログラムが止まります。どちらになるかは、器の作りと言語で違います。

Python の int はあふれない

Python の int (整数) は、大きさに上限がありません。公式の文書も、整数の精度に限りが無いと書いています。255 に 1 を足せば、そのまま 256 です。

8 ビットの器を Python で再現するには、& 0xFF (下の 8 ビットだけを残す計算) を使います。0xFF は 11111111 なので、それと重なる下の 8 ビット以外を 0 にします。

256
0
4
1267650600228229401496703205376

1 行目は int のままなので 256、2 行目は 8 ビットの器に入れた値で 0 です。256 は 2 進数で 100000000 の 9 桁になり、9 桁目の 1 が器からこぼれて、残った 8 桁がすべて 0 だからです。これを桁あふれ (オーバーフロー) と呼びます。3 行目の 250 + 10 も、器の中では 4 になります。4 行目のように、Python の int だけなら 2 の 100 乗でもそのまま出ます。

器の幅を決めると、止まる道具もある

値を決まった数のバイトに詰める道具は、範囲を超えると、こぼして化けさせる代わりにエラーで止まるものがあります。Python の int.to_bytes と struct がそうです。

b'\xff'
OverflowError
int too big to convert
b'\xff'
struct.error
'h' format requires -32768
<= number <= 32767

(255).to_bytes(1, "big") は 255 を 1 バイトに詰め、中身が FF の 1 バイト b'\xff' を返します。256 を 1 バイトに詰めようとすると、OverflowError (値が大きすぎるという知らせ) で止まります。公式の文書は、決めたバイト数で表せない整数には OverflowError を出すと書いています。

struct は、値を決まった形のバイト列に詰める道具です。"B" は 1 バイトの符号なし、"h" は 2 バイト (16 ビット) の符号付きの形です。40000 は 16 ビットの符号付きの範囲を超えるので、struct.error で止まり、許される範囲 −32768〜32767 を知らせてきます。止まる道具はまだ親切な側で、黙って上の桁を捨てる器もあります。

同じ 8 ビットでも、読み方で値が変わる

同じビットの並びでも、符号なしとして読むか、符号付きとして読むかで値が変わります。符号付きの代表的な読み方が 2 の補数 (一番上の桁の重みをマイナスとして読むやり方) で、8 ビットなら一番上の桁を −128 として足します。

b'\xc8'
200
-56
-128
b'\xff'

200 を詰めた 1 バイトは C8 です。符号なしで読めば 200、符号付きで読めば −56 になります。符号付きの 8 ビットで最大の 127 に 1 を足し、8 ビットの器に入れてから符号付きで読むと、−128 になりました。プラスの一番上からマイナスの一番下へ回り込んだわけです。最後の行のとおり、−1 を符号付きで詰めると FF です。

ビットの並びそのものには、マイナスかどうかの情報は入っていません。どう読むかは、器を決めた側の約束です。

反対に、マイナスの数を 2 の補数で作るときは、プラスの値のビットを全部反転し (0 と 1 を入れ替え)、1 を足します。−56 なら、56 の 00111000 を反転して 11000111、1 を足して 11001000 です。

00111000
11000111
11001000
0xc8
True

作った 11001000 は 16 進で C8 で、上で 200 を詰めた 1 バイトと同じ並びです。最後の行のとおり、Python に −56 を符号付きで詰めさせた 1 バイトとも一致します。~x は全部のビットを反転する演算で、& 0xFF で下の 8 ビットだけを残しています。

崩れる前提をまとめると、次の通りです。

• 値は器の幅に入る、という前提。超えると、上の桁がこぼれて小さな値に化けるか、エラーで止まる
• 書いた側と読む側が同じ読み方をする、という前提。符号なしと符号付きを取り違えると、200 が −56 に化ける
• 足し算の結果も器に入る、という前提。255 も 1 もそれぞれは入るのに、足すと入らない