当前位置:  编程语言>php

PHP实现Unicode和Utf-8互相转换

 
    发布时间:2013-8-19  


    本文导语:  一. 编码原理及实现 unicode编码是实现utf-8与gb系列编码(gb2312、gbk、gb18030)转换的基础,虽然我们也可以直接做一个utf-8到这些编码的对照表,但很少有人会这么做,因为utf-8的可变编码具有不确定性,因此一般情况使...

  一. 编码原理及实现

  unicode编码是实现utf-8与gb系列编码(gb2312gbk、gb18030)转换基础,虽然我们也可以直接做一个utf-8到这些编码的对照表,但很少有人会这么做,因为utf-8的可变编码具有不确定性,因此一般情况使用都是unicode与gb编码的对照表,unicode(ucs-2)实际上是utf-8的基础编码,utf-8只是它的一种实现而已,两者存在下面的对应关系:

Unicode符号范围           | UTF-8编码方式

u0000 0000 - u0000 007F   | 0xxxxxxx

u0000 0080 - u0000 07FF   | 110xxxxx 10xxxxxx

u0000 0800 - u0000 FFFF   | 1110xxxx 10xxxxxx 10xxxxxx

  由于目前utf-8使用的字符都是居于UCS-2的,因此对于4-6字节编码的情况是不必考虑的,同样地,在反向转换的时候,如果出现四字节以上的utf-8字符,可以直接视为乱码忽略掉或转为unicode实体形式("&#long int;"形式),然后交给浏览器或相关解析程序去处理,用php把unicode转为utf-8编码的算法如下:

/*
 * 参数 $c 是unicode字符编码的int类型数值,如果是用二进制读取的数据,在php中通常要用 hexdec(bin2hex( $bin_unichar )) 这样转换
 */
function uni2utf8( $c )
{
  if ($c < 0x80)
  {
        $utf8char = chr($c);
  }
  else if ($c < 0x800)
  {
        $utf8char = chr(0xC0 | $c >> 0x06).chr(0x80 | $c & 0x3F);
  }
  else if ($c < 0x10000)
  {
        $utf8char = chr(0xE0 | $c >> 0x0C).chr(0x80 | $c >> 0x06 & 0x3F).chr(0x80 | $c & 0x3F);
  }
  //因为UCS-2只有两字节,所以后面的情况是不可能出现的,这里只是说明unicode HTML实体编码的用法。
  else
  {
        $utf8char = "&#{$c};";
  }
  return $utf8char;
}


在目前的环境范围内,可以认为 utf-8字符集==unicode(UCS-2),但从理论上,主要字符集之关的包含关系如下:

utf-8 > unicode(UCS-2) > gb18030 > gbk > gb2312

因此,如果编码都正确的情况下:

gb2312 => gbk => gb18030 => unicode(UCS-2) => utf-8

这样的一个转变过程,基本上是无损的,但反而言之,由

utf-8 => unicode(UCS-2) => gb18030=> gbk => gb2312

这样的转变过程,是很可能存在不能识别的字符的,因此,如果对于使用utf-8编码的系统,尽量不要轻易的去做反向转换编码的操作。


二. 用PHP将Unicode 转化为UTF-8另外一种方法:


function unescape($str) {
    $str = rawurldecode($str);
    preg_match_all("/(?:%u.{4})|&#x.{4};|&#d+;|.+/U",$str,$r);
    $ar = $r[0];
    //print_r($ar);
    foreach($ar as $k=>$v) {
        if(substr($v,0,2) == "%u"){
            $ar[$k] = iconv("UCS-2BE","UTF-8",pack("H4",substr($v,-4)));
  }
        elseif(substr($v,0,3) == "&#x"){
            $ar[$k] = iconv("UCS-2BE","UTF-8",pack("H4",substr($v,3,-1)));
  }
        elseif(substr($v,0,2) == "&#") {
            $ar[$k] = iconv("UCS-2BE","UTF-8",pack("n",substr($v,2,-1)));
        }
    }
    return join("",$ar);
}


Linux 服务器上 UCS-2 编码方式与 Winodws 不一致,以下是有关两个平台 UCS-2 编码的潜规则:

1. ucs-2 不等于 utf-8。 utf-8 每个字节使用 ascii 字符范围编码,而 ucs-2 对每个字节的编码可以超出 ascii 字符范围。ucs-2 和 utf-8 对每个字符至多占两个字节,但是他们的编码是不一样的。

2. 对于 UCS-2, windows 下默认是 UCS-2LE。用 MultibyteToWidechar(或者A2W)生成的是 UCS-2LE 的 unicode。windows记事本可以将文本保存为 UCS-2BE,相当于多了层转换。

3. 对于 UCS-2, linux 下默认是 UCS-2BE。用iconv(指定UCS-2)来转换生成的是 UCS-2BE 的 unicode。如果转换windows平台过来的 UCS-2, 需要指定 UCS-2LE。

4. 鉴于windows和linux等多个平台对 ucs-2 的理解不同(ucs-2le,ucs-2be)。ms 主张 unicode 有个引导标志(ucs-2le fffe, ucs-2be feff),以表明下面的字符是 unicode 并且判别 big-endianlittle-endian。 所以从 windows 平台过来的数据发现有这个前缀,不用慌张。

5. linux 的编码输出,比如从文件输出,从 printf 输出,需要控制台做适当的编码匹配(如果编码不匹配,一般和该程序编译时的编码有若干关系),而控制台的转换输入需要查看当前的系统编码。比如控制台当前的编码是 UTF-8, 那么 UTF-8 编码的东西能正确显示,GBK 就不能;同样,当前编码是 GBK, 就能显示 GBK 编码,后来的系统应该更智能的处理好更多的转换了。不过通过 putty终端还是需要设置好终端的编码转换以解除乱码的烦恼。

三.再提供一对PHP中对汉字进行UNICODE完整的编码和解码的实现供参考:

//将内容进行UNICODE编码
function unicode_encode($name)
{
    $name = iconv('UTF-8', 'UCS-2', $name);
    $len = strlen($name);
    $str = '';
    for ($i = 0; $i < $len - 1; $i = $i + 2)
    {
        $c = $name[$i];
        $c2 = $name[$i + 1];
        if (ord($c) > 0)
        {   
            // 两个字节的文字
            $str .= 'u'.base_convert(ord($c), 10, 16).base_convert(ord($c2), 10, 16);
        }
        else
        {
            $str .= $c2;
        }
    }
    return $str;
}
// 将UNICODE编码后的内容进行解码
function unicode_decode($name)
{
    // 转换编码,将Unicode编码转换成可以浏览的utf-8编码
    $pattern = '/([w]+)|(\u([w]{4}))/i';
    preg_match_all($pattern, $name, $matches);
    if (!empty($matches))
    {
        $name = '';
        for ($j = 0; $j < count($matches[0]); $j++)
        {
            $str = $matches[0][$j];
            if (strpos($str, '\u') === 0)
            {
                $code = base_convert(substr($str, 2, 2), 16, 10);
                $code2 = base_convert(substr($str, 4), 16, 10);
                $c = chr($code).chr($code2);
                $c = iconv('UCS-2', 'UTF-8', $c);
                $name .= $c;
            }
            else
            {
                $name .= $str;
            }
        }
    }
    return $name;
}




  • 本站(WWW.)旨在分享和传播互联网科技相关的资讯和技术,将尽最大努力为读者提供更好的信息聚合和浏览方式。
    本站(WWW.)站内文章除注明原创外,均为转载,整理或搜集自网络.欢迎任何形式的转载,转载请注明出处.
    转载请注明:文章转载自:[169IT-IT技术资讯]
    本文标题:PHP实现Unicode和Utf-8互相转换
相关文章推荐:


站内导航:


特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

©2012-2021,,E-mail:www_#163.com(请将#改为@)

浙ICP备11055608号-3