[기본] int 범위 초과 계산
int 는 4byte 크기 4byte 는 4 x 8bit = 32bit 즉, 2^32 = 2의 32제곱 만큼의 크기 표현 가능 2^32 = 2^(10*10*10*4) = 1024*1024*1024*4 = 4,294,967,296 만큼 표현가능 절반은 양수, 절반은 음수를 가르키므로 양수의 최대값은 2,147,483,647 으로 10자리를 넘는 값을 표현 할 수 없다. 자료형 중 가장 큰 값을 표현 가능한 8byte 크기의 unsigned long long 인 ull 은 18,446,744,073,709,551,615 까지 표현 가능하며 20자리를 넘는 값을 표현 할 수 없다. 덧셈을 한 결과 값이 위 자료형의 크기를 초과 하는 경우에도 해당 자료형으로 값을 저장하는 경우 해당 값을 표현 할 수 없다. 이..
Computer/Algorithms
2021. 4. 15. 00:46