실수 – Linsoo

취미 기록용 블로그

고정소수점, 부동소수점 관한 이야기

in Development

2016년 10월 17일

프로그래밍 하다보면 실수 계산이 정확하지 않다는 말이 있습니다. 대학시절에 교수님이 말할때도 흘려보냈고 밥벌이로 코딩하면서도 크게 신경쓰지 않았습니다. 요즘 쓰는 한성 노트북 때문에 NTP 관련을 찾아보다가 NTP 프로토콜에 시간값이 Fixed Point로 처리하는걸 보고 좀 더 검색해보다가 알게 된것을 여기에 정리해둡니다. … “read more”
No Thumbnail Available

ByteBuffer 이야기

in Development

2013년 6월 17일

플젝에서 윈도용을 안드로이드 포팅하고 있는데 C++에서는 8바이트 double 을 memcpy로 char[8] 에다가 그냥 복사하면 같은거였는데 자바에선 형이 다르다고 System.arrcopy던가에서 에러가 나는거다. 그래서 한참을 삽질하다가 public byte[] Int2Byte(int data){ byte header[] = new byte[4]; header[0] = (byte)((data& 0xff000000) >> 24); header[1]… “read more”