Sql Server數(shù)據(jù)庫類似正則表達式的字符處理問題
SQL Serve提供了簡單的字符模糊匹配功能,比如:like, patindex,不過對于某些字符處理場景還顯得并不足夠,日常碰到的幾個問題有:...
SQL Serve提供了簡單的字符模糊匹配功能,比如:like, patindex,不過對于某些字符處理場景還顯得并不足夠,日常碰到的幾個問題有:
1. 同一個字符/字符串,出現(xiàn)了多少次
2. 同一個字符,第N次出現(xiàn)的位置
3. 多個相同字符連續(xù),合并為一個字符
4. 是否為有效IP/身份證號/手機號等
一. 同一個字符/字符串,出現(xiàn)了多少次
同一個字符,將其替換為空串,即可計算
declare
@text
varchar
(1000)
declare
@str
varchar
(10)
set
@text =
'ABCBDBE'
set
@str =
'B'
select
len(@text) - len(
replace
(@text,@str,
''
))
同一個字符串,仍然是替換,因為是多個字符,方法1替換后需要做一次除法;方法2替換時增加一個字符,則不需要
--方法1
declare
@text
varchar
(1000)
declare
@str
varchar
(10)
set
@text =
'ABBBCBBBDBBBE'
set
@str =
'BBB'
select
(len(@text) - len(
replace
(@text,@str,
''
)))/len(@str)
--方法2
declare
@text
varchar
(1000)
declare
@str
varchar
(10)
set
@text =
'ABBBCBBBDBBBE'
set
@str =
'BBB'
select
len(
replace
(@text,@str,@str+
'_'
)) - len(@text)
二. 同一個字符/字符串,第N次出現(xiàn)的位置
SQL SERVER定位字符位置的函數(shù)為CHARINDEX:
CHARINDEX ( expressionToFind , expressionToSearch [ , start_location ] )
可以從指定位置起開始檢索,但是不能取第N次出現(xiàn)的位置,需要自己寫SQL來補充,有以下幾種思路:
1. 自定義函數(shù), 循環(huán)中每次為charindex加一個計數(shù),直到為N
if object_id(
'NthChar'
,
'FN'
)
is
not
null
drop
function
Nthchar
GO
create
function
NthChar
(
@source_string
as
nvarchar(4000),
@sub_string
as
nvarchar(1024),
@nth
as
int
)
returns
int
as
begin
declare
@postion
int
declare
@
count
int
set
@postion = CHARINDEX(@sub_string, @source_string)
set
@
count
= 0
while @postion > 0
begin
set
@
count
= @
count
+ 1
if @
count
= @nth
begin
break
end
set
@postion = CHARINDEX(@sub_string, @source_string, @postion + 1)
End
return
@postion
end
GO
--select dbo.NthChar('abcabc','abc',2)
--4
2. 通過CTE,對待處理的整個表字段操作, 遞歸中每次為charindex加一個計數(shù),直到為N
if object_id(
'tempdb..#T'
)
is
not
null
drop
table
#T
create
table
#T
(
source_string nvarchar(4000)
)
insert
into
#T
values
(N
'我們我們'
)
insert
into
#T
values
(N
'我我哦我'
)
declare
@sub_string nvarchar(1024)
declare
@nth
int
set
@sub_string = N
'我們'
set
@nth = 2
;
with
T(source_string, starts, pos, nth)
as
(
select
source_string, 1, charindex(@sub_string, source_string), 1
from
#t
union
all
select
source_string, pos + 1, charindex(@sub_string, source_string, pos + 1), nth+1
from
T
where
pos > 0
)
select
source_string, pos, nth
from
T
where
pos <> 0
and
nth = @nth
order
by
source_string, starts
--source_string pos nth
--我們我們 3 2
3. 借助數(shù)字表 (tally table),到不同起點位置去做charindex,需要先自己構造個數(shù)字表
--numbers/tally table
IF EXISTS (
select
*
from
dbo.sysobjects
where
id = object_id(N
'[dbo].[Numbers]'
)
and
OBJECTPROPERTY(id, N
'IsUserTable'
) = 1)
DROP
TABLE
dbo.Numbers
--===== Create and populate the Tally table on the fly
SELECT
TOP
1000000
IDENTITY(
int
,1,1)
AS
number
INTO
dbo.Numbers
FROM
master.dbo.syscolumns sc1,
master.dbo.syscolumns sc2
--===== Add a Primary Key to maximize performance
ALTER
TABLE
dbo.Numbers
ADD
CONSTRAINT
PK_numbers_number
PRIMARY
KEY
CLUSTERED (number)
--===== Allow the general public to use it
GRANT
SELECT
ON
dbo.Numbers
TO
PUBLIC
--以上數(shù)字表創(chuàng)建一次即可,不需要每次都重復創(chuàng)建
DECLARE
@source_string nvarchar(4000),
@sub_string nvarchar(1024),
@nth
int
SET
@source_string =
'abcabcvvvvabc'
SET
@sub_string =
'abc'
SET
@nth = 2
;
WITH
T
AS
(
SELECT
ROW_NUMBER() OVER(
ORDER
BY
number)
AS
nth,
number
AS
[Position
In
String]
FROM
dbo.Numbers n
WHERE
n.number <= LEN(@source_string)
AND
CHARINDEX(@sub_string, @source_string, n.number)-number = 0
----OR
--AND SUBSTRING(@source_string,number,LEN(@sub_string)) = @sub_string
)
SELECT
*
FROM
T
WHERE
nth = @nth
4. 通過CROSS APPLY結合charindex,適用于N值較小的時候,因為CROSS APPLY的次數(shù)要隨著N的變大而增加,語句也要做相應的修改
declare
@T
table
(
source_string nvarchar(4000)
)
insert
into
@T
values
(
'abcabc'
),
(
'abcabcvvvvabc'
)
declare
@sub_string nvarchar(1024)
set
@sub_string =
'abc'
select
source_string,
p1.pos
as
no1,
p2.pos
as
no2,
p3.pos
as
no3
from
@T
cross
apply (
select
(charindex(@sub_string, source_string)))
as
P1(Pos)
cross
apply (
select
(charindex(@sub_string, source_string, P1.Pos+1)))
as
P2(Pos)
cross
apply (
select
(charindex(@sub_string, source_string, P2.Pos+1)))
as
P3(Pos)
5. 在SSIS里有內(nèi)置的函數(shù),但T-SQL中并沒有
--FINDSTRING in SQL Server 2005 SSIS
FINDSTRING([yourColumn],
"|"
, 2),
--TOKEN in SQL Server 2012 SSIS
TOKEN(Col1,
"|"
,3)
注:不難發(fā)現(xiàn),這些方法和字符串拆分的邏輯是類似的,只不過一個是定位,一個是截取,如果要獲取第N個字符左右的一個/多個字符,有了N的位置,再結合substring去截取即可;
三. 多個相同字符連續(xù),合并為一個字符
最常見的就是把多個連續(xù)的空格合并為一個空格,解決思路有兩個:
1. 比較容易想到的就是用多個replace
但是究竟需要replace多少次并不確定,所以還得循環(huán)多次才行
--把兩個連續(xù)空格替換成一個空格,然后循環(huán),直到charindex檢查不到兩個連續(xù)空格
declare
@str
varchar
(100)
set
@str=
'abc abc kljlk kljkl'
while(charindex(
' '
,@str)>0)
begin
select
@str=
replace
(@str,
' '
,
' '
)
end
select
@str
2. 按照空格把字符串拆開
對每一段拆分開的字符串trim或者replace后,再用一個空格連接,有點繁瑣,沒寫代碼示例,如何拆分字符串可參考:“第N次出現(xiàn)的位置”;
四. 是否為有效IP/身份證號/手機號等
類似IP/身份證號/手機號等這些字符串,往往都有自身特定的規(guī)律,通過substring去逐位或逐段判斷是可以的,但SQL語句的方式往往性能不佳,建議嘗試正則函數(shù),見下。
五. 正則表達式函數(shù)
1. Oracle
從10g開始,可以在查詢中使用正則表達式,它通過一些支持正則表達式的函數(shù)來實現(xiàn):
Oracle 10 g
REGEXP_LIKE
REGEXP_REPLACE
REGEXP_INSTR
REGEXP_SUBSTR
Oracle 11g (新增)
REGEXP_COUNT
Oracle用REGEXP函數(shù)處理上面幾個問題:
(1) 同一個字符/字符串,出現(xiàn)了多少次
select
length(regexp_replace(
'123-345-566'
,
'[^-]'
,
''
))
from
dual;
select
REGEXP_COUNT(
'123-345-566'
,
'-'
)
from
dual;
--Oracle 11g
(2) 同一個字符/字符串,第N次出現(xiàn)的位置
不需要正則,ORACLE的instr可以直接查找位置:
instr(
'source_string'
,
'sub_string'
[,n][,m])
n表示從第n個字符開始搜索,缺省值為1,m表示第m次出現(xiàn),缺省值為1。
select
instr(
'abcdefghijkabc'
,
'abc'
, 1, 2) position
from
dual;
(3) 多個相同字符連續(xù),合并為一個字符
select
regexp_replace(trim(
'agc f f '
),
'\s+'
,
' '
)
from
dual;
(4) 是否為有效IP/身份證號/手機號等
--是否為有效IP
WITH
IP
AS
(
SELECT
'10.20.30.40'
ip_address
FROM
dual
UNION
ALL
SELECT
'a.b.c.d'
ip_address
FROM
dual
UNION
ALL
SELECT
'256.123.0.254'
ip_address
FROM
dual
UNION
ALL
SELECT
'255.255.255.255'
ip_address
FROM
dual
)
SELECT
*
FROM
IP
WHERE
REGEXP_LIKE(ip_address,
'^(([0-9]{1}|[0-9][0-9]|1[0-9][0-9]|2[0-4][0-9]|25[0-5])\.){3}([0-9]{1}|[0-9][0-9]|1[0-9][0-9]|2[0-4][0-9]|25[0-5])$'
);
--是否為有效身份證/手機號,暫未舉例
2. SQL Server
目前最新版本為SQL Server 2017,還沒有對REGEXP函數(shù)的支持,需要通用CLR來擴展,如下為CLR實現(xiàn)REG_REPLACE:
--1. 開啟 CLR
EXEC
sp_configure
'show advanced options'
,
'1'
GO
RECONFIGURE
GO
EXEC
sp_configure
'clr enabled'
,
'1'
GO
RECONFIGURE
GO
EXEC
sp_configure
'show advanced options'
,
'0'
;
GO
2. 創(chuàng)建 Assembly
--3. 創(chuàng)建 CLR 函數(shù)
CREATE
FUNCTION
[dbo].[regex_replace](@input [nvarchar](4000), @pattern [nvarchar](4000), @replacement [nvarchar](4000))
RETURNS
[nvarchar](4000)
WITH
EXECUTE
AS
CALLER,
RETURNS
NULL
ON
NULL
INPUT
AS
EXTERNAL
NAME
[RegexUtility].[RegexUtility].[RegexReplaceDefault]
GO
--4. 使用regex_replace替換多個空格為一個空格
select
dbo.regex_replace(
'agc f f '
,
'\s+'
,
' '
);
注:通過CLR實現(xiàn)更多REGEXP函數(shù),如果有高級語言開發(fā)能力,可以自行開發(fā);或者直接使用一些開源貢獻也行,比如:http://devnambi.com/2016/sql-server-regex/
小結:
1. 非正則SQL語句的思路,對不同數(shù)據(jù)庫往往都適用;
2. 正則表達式中的規(guī)則(pattern) 在不同開發(fā)語言里,有很多語法是相通的,通常是遵守perl或者linux shell中的sed等工具的規(guī)則;
3. 從性能上來看,通用SQL判斷 > REGEXP函數(shù) > 自定義SQL函數(shù)。
總結:以上所述是小編給大家介紹的SqlServer類似正則表達式的字符處理問題,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。
- Mysql數(shù)據(jù)庫使用from與join兩表查詢的方法區(qū)別總結
- SQL Server數(shù)據(jù)庫中表和索引結構存儲的原理及如何加快
- SQL Server Page數(shù)據(jù)庫結構深入分析
- 基于Sql server數(shù)據(jù)庫的四種分頁方式總結
- SQL Server 2016數(shù)據(jù)庫快照代理過程詳解
- SQL Server 全文搜索功能、全文索引方式介紹
- 關于SQL Serve數(shù)據(jù)庫r帳號被禁用的處理方法
- SQL數(shù)據(jù)庫查詢優(yōu)化技巧提升網(wǎng)站訪問速度的方法
- SQL數(shù)據(jù)庫開發(fā)中的SSIS 延遲驗證方法
- SQL Server數(shù)據(jù)庫建立新用戶及關聯(lián)數(shù)據(jù)庫的方法教程
Mysql數(shù)據(jù)庫使用from與join兩表查詢的方法區(qū)別總結
文章主要給大家介紹了關于mysql使用from與join兩表查詢的區(qū)別的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面...
SQL Server數(shù)據(jù)庫中表和索引結構存儲的原理及如何加快搜索速度分析
本文詳細分析了SQL Server中表和索引結構存儲的原理以及對于如何加快搜索速度和提高效率等方面做了詳細的分析,以下是主要內(nèi)容。...
SQL Server Page數(shù)據(jù)庫結構深入分析
SQL Server存儲數(shù)據(jù)的基本單元是Page,每一個Page的大小是8KB,數(shù)據(jù)文件是由Page構成的。在同一個數(shù)據(jù)庫上,每一個Page都有一個唯一的資源標識,標識符由三部分組成...
基于Sql server數(shù)據(jù)庫的四種分頁方式總結
下面小編就為大家分享一篇基于sqlserver的四種分頁方式總結,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧。...
SQL Server 2016數(shù)據(jù)庫快照代理過程詳解
本文我們通過SQL Server 2016一個實例數(shù)據(jù)表,給大家詳細分析了快照代理過程遇到的問題和解決辦法,并對快照生成過程做了詳細說明,以下是全部內(nèi)容:...
SQL Server 全文搜索功能、全文索引方式介紹
SQL Server 的全文搜索(Full-Text Search)是基于分詞的文本檢索功能,依賴于全文索引。全文索引不同于傳統(tǒng)的平衡樹(B-Tree)索引和列存儲索引,它是由數(shù)據(jù)表構成的,稱作倒轉索引(Invert Index),存儲分詞和行的唯一鍵的映射關系。...
關于SQL Serve數(shù)據(jù)庫r帳號被禁用的處理方法
若發(fā)現(xiàn)SQL Serve所有帳號不小心被禁用了,這個時候怎么辦?用重裝嗎?不用,仔細看小白是怎么一步一步解開這個謎題的。首先需要Windows帳號設置里重新添加一個新帳號。并將其添加到...
SQL數(shù)據(jù)庫查詢優(yōu)化技巧提升網(wǎng)站訪問速度的方法
在這篇文章中,我將介紹如何識別導致性能出現(xiàn)問題的查詢,如何找出它們的問題所在,以及快速修復這些問題和其他加快查詢速度的方法?! ∧阋欢ㄖ?,一個快速訪問的網(wǎng)站能讓用...
SQL數(shù)據(jù)庫開發(fā)中的SSIS 延遲驗證方法
驗證是一個事件,該事件在Package執(zhí)行時,第一個被觸發(fā),驗證能夠避免SSIS引擎執(zhí)行一個有異常的Package或Task。延遲驗證(DelayValidation)是把驗證操作延遲到Package真正運行(run-ti...
SQL Server數(shù)據(jù)庫建立新用戶及關聯(lián)數(shù)據(jù)庫的方法教程
本文講的是SQLserver數(shù)據(jù)庫創(chuàng)建新用戶方法以及賦予此用戶特定權限的方法,非常的簡單實用,有需要的小伙伴可以參考下...