有一個(gè)需求是要在一個(gè)云監(jiān)控的狀態(tài)值中存儲(chǔ)多個(gè)狀態(tài)(包括可同時(shí)存在的各種異常、警告狀態(tài))使用了位運(yùn)算機(jī)制在一個(gè)int型中存儲(chǔ)。
現(xiàn)在監(jiān)控日志數(shù)據(jù)量非常大(億級(jí)別)需要對(duì)數(shù)據(jù)按每小時(shí)、每天進(jìn)行聚合,供在線報(bào)表使用。
狀態(tài)分了3個(gè)級(jí)別:正常(0)、警告(1)、異常(2),聚合時(shí)需要使用max選擇最差的狀態(tài),就需要對(duì)狀態(tài)值進(jìn)行處理加上級(jí)別和狀態(tài)位個(gè)數(shù),就要借助bigint型來(lái)做運(yùn)算了,
問(wèn)題是再將bigint 轉(zhuǎn)為 int時(shí)獲取原始狀態(tài)值時(shí),SQLServer報(bào)錯(cuò)了:
消息 8115,級(jí)別 16,狀態(tài) 2,第 1 行
將 expression 轉(zhuǎn)換為數(shù)據(jù)類型 int 時(shí)出現(xiàn)算術(shù)溢出錯(cuò)誤。
因?yàn)闋顟B(tài)碼中已經(jīng)用到了 0x80000000, 出現(xiàn)了符號(hào)位的問(wèn)題。
寫(xiě)了一個(gè)轉(zhuǎn)換函數(shù)解決了。
?1234567891011121314151617181920212223 CREATE FUNCTION [dbo].[BigintToInt] ( @Value bigint ) RETURNS int AS BEGIN -- 是否有int符號(hào)位 IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000 -- 無(wú)符號(hào)位 RETURN @Value & 0xFFFFFFFF END
更多信息請(qǐng)查看IT技術(shù)專欄