SQLServer中bigint轉int帶符號時報錯問題解決方法
有一個需求是要在一個云監(jiān)控的狀態(tài)值中存儲多個狀態(tài)(包括可同時存在的各種異常、警告狀態(tài))使用了位運算機制在一個int型中存儲。
現(xiàn)在監(jiān)控日志數(shù)據(jù)量非常大(億級別)需要對數(shù)據(jù)按每小時、每天進行聚合,供在線報表使用。
狀態(tài)分了3個級別:正常(0)、警告(1)、異常(2),聚合時需要使用max選擇最差的狀態(tài),就需要對狀態(tài)值進行處理加上級別和狀態(tài)位個數(shù),就要借助bigint型來做運算了,
問題是再將bigint 轉為 int時獲取原始狀態(tài)值時,SQLServer報錯了:
消息 8115,級別 16,狀態(tài) 2,第 1 行
將 expression 轉換為數(shù)據(jù)類型 int 時出現(xiàn)算術溢出錯誤。
因為狀態(tài)碼中已經(jīng)用到了 0x80000000, 出現(xiàn)了符號位的問題。
寫了一個轉換函數(shù)解決了。
CREATE FUNCTION [dbo].[BigintToInt] ( @Value bigint ) RETURNS int AS BEGIN -- 是否有int符號位 IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000 -- 無符號位 RETURN @Value & 0xFFFFFFFF END
版權聲明:本站文章來源標注為YINGSOO的內(nèi)容版權均為本站所有,歡迎引用、轉載,請保持原文完整并注明來源及原文鏈接。禁止復制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務器上建立鏡像,否則將依法追究法律責任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學習參考,不代表本站立場,如有內(nèi)容涉嫌侵權,請聯(lián)系alex-e#qq.com處理。