php mysql百万级数据去除重复数据

 更新时间:2016年11月25日 16:39  点击:1798

<?php教程
//定义一个数组,用于存放排重后的结果
$result = array();
//读取uid列表文件
$fp = fopen('test.txt', 'r');

while(!feof($fp))
{
$uid = fgets($fp);
$uid = trim($uid);
$uid = trim($uid, " ");
$uid = trim($uid, " ");

if($uid == '')
{
continue;
}
//以uid为key去看该值是否存在
if(empty($result[$uid]))
{
$result[$uid] = 1;
}
}

fclose($fp);

//将结果保存到文件
$content = '';
foreach($result as $k => $v)
{
$content .= $k." ";
}
$fp = fopen('result.txt', 'w');
fwrite($fp, $content);
fclose($fp);
?>  


<?php
//定义数组,用于存放排重后的结果
$result = array();
//读取第一个uid列表文件,放入$result_1
$fp = fopen('test_1.txt', 'r');
while(!feof($fp))
{
$uid = fgets($fp);
$uid = trim($uid);
$uid = trim($uid, " ");
$uid = trim($uid, " ");
if($uid == '')
{
continue;
}
//以uid为key写入$result,如有重复就会覆盖
$result[$uid] = 1;
}
fclose($fp);
//读取第二个uid列表文件,并进行排重操作
$fp = fopen('test_2.txt', 'r');
while(!feof($fp))
{
$uid = fgets($fp);
$uid = trim($uid);
$uid = trim($uid, " ");
$uid = trim($uid, " ");
if($uid == '')
{
continue;
}
//以uid为key去看该值是否存在
if(empty($result[$uid]))
{
$result[$uid] = 1;
}
}
fclose($fp);
//$result里保存的就排重以后的结果,可以输出到文件,代码省略
?>

//自动计算二个字段的值赋给另一字段sql

$sql ="update table set sum = mathe +language";

//求一个字段列的数据总和

$sql = "select sum(sum) from tables";

//下们我们来看个实例

/*
创建表
CREATE TABLE `cc`.`sumtable` (
`id` INT( 4 ) NOT NULL ,
`a1` INT( 4 ) NOT NULL ,
`a2` INT( 4 ) NOT NULL ,
`summ` INT( 8 ) NOT NULL
) ENGINE = InnoDB

插入记录

INSERT INTO `cc`.`sumtable` (
`id` ,
`a1` ,
`a2` ,
`summ`
)
VALUES (
'1', '5', '5', '0'
), (
'2', '6', '5', '0'
);
*/

//自动计算二个字段的值赋给另一字段sql
update sumtable set summ = a1+a2

//求和
SELECT sum( summ ) FROM sumtable
sum(summ) 
21

//本站原创文章转载注明来源www.111cn.net

$this->beginTransaction();
$this->exec('update people set age=2');

//$step1 = mysql教程_error();//你的类里,改成如果执行sql错误,获取错误代码,相应的函数

 代码如下 复制代码

$this->exec('INSERT INTO course (course,num) VALUES ("数学",100)');

//$step2 = mysql_error();


if (!$step1 && !$step2)
{
 $this->commit();
}
else
{
 $this->rollBack();
}

 代码如下 复制代码

$conn=ADONewConnection('odbc_mssql');
$conn->PConnect("Driver={SQL Server};Server=DLUT-PCSQLEXPRESS;Database=yuyan;",'zhouhao','950288');
$ADODB_FETCH_MODE=ADODB_FETCH_ASSOC;
$sqlstr='select * from yuyan where ps教程nNo=?';
$rst=$conn->execute($sqlstr,'005') or die('connect error');
while(!$rst->EOF)
{
//echo $rst->fields['psnName'].'->'.$rst->fields['www.111cn.net'].'';
echo 'dajiahao';
$rst->movenext();
}
$rst->close();
$conn->close();

 代码如下 复制代码

DELIMITER $$

CREATE DEFINER=`root`@`localhost` FUNCTION `UF_Get_tMaxCode`(
  V_iType INT
) RETURNS varchar(10) CHARSET utf8
BEGIN
/*
业务描述:根据编码类别产生编码

输入参数:
V_iType:编码类别,定义建tMaxCode的iType字段的定义

调用示例:
SELECT UF_Get_tMaxCode(1);

创建日期:
创建人:

*/
DECLARE iCode INT;

IF V_iType IN (1,3)

THEN
#非订单类
IF EXISTS (SELECT dtLast FROM tMaxCode WHERE iType=V_iType LIMIT 0,1)
THEN 
SELECT IFNULL(iMax,0)+1 INTO iCode FROM tMaxCode WHERE iType=V_iType;
ELSE
SET iCode=1;
END IF;
SELECT IFNULL(iMax,0)+1 INTO iCode FROM tMaxCode WHERE iType=V_iType;
ELSE
#订单类
IF EXISTS (SELECT iMax FROM tMaxCode WHERE iType=V_iType AND DATEDIFF(dtLast,CURRENT_DATE)=0 LIMIT 0,1)
THEN 
#上次生成时间是当天
  SELECT IFNULL(iMax,0)+1 INTO iCode FROM tMaxCode WHERE iType=V_iType;
ELSE
SET iCode=1;
END IF;
END IF;

[!--infotagslink--]

相关文章

  • OpenCV如何去除图片中的阴影的实现

    这篇文章主要介绍了OpenCV如何去除图片中的阴影的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2021-03-29
  • sqlserver删除重复记录并且要保留一条记录

    删除重复数据,只保留一条用SQL语句,删除掉重复项只保留一条在几千条记录里,存在着些相同的记录,如何能用SQL语句,删除掉重复的呢...2018-09-10
  • javascript中去除数组重复元素的实现方法【实例】

    下面小编就为大家带来一篇javascript中去除数组重复元素的实现方法【实例】。小编觉得挺不错的,现在分享给大家,也给大家做个参考,一起跟随小编过来看看吧...2016-04-16
  • 分享MYSQL插入数据时忽略重复数据的方法

    使用下以两种方法时必须把字段设为”主键(PRIMARY KEY”或”唯一约束(UNIQUE)”。1:使用REPLACE INTO (此种方法是利用替换的方法,有点似类于先删除再插入) 复制代码 代码如下:REPLACE INTO Syntax REPLACE [LOW_PRIO...2013-10-04
  • C#删除字符串中重复字符的方法

    这篇文章主要介绍了C#删除字符串中重复字符的方法,涉及C#针对字符串的遍历及移除等操作的技巧,非常具有实用价值,需要的朋友可以参考下...2020-06-25
  • C# 去除首尾字符或字符串的方法

    C# 去除首尾字符或字符串的方法,需要的朋友可以参考一下...2020-06-25
  • postgresql 删除重复数据的几种方法小结

    这篇文章主要介绍了postgresql 删除重复数据的几种方法小结,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-02-05
  • C#实现生成所有不重复的组合功能示例

    这篇文章主要介绍了C#实现生成所有不重复的组合功能,涉及C#数学运算中组合数运算的相关原理应用操作技巧,需要的朋友可以参考下...2020-06-25
  • [Php]去除魔术符号

    <?php /** * 去除魔术变换 */ class killMagicQuote { public function Strip_Magic_Slashes($varImp) { $varImp = is_array...2016-11-25
  • C#实现去除Strings中空格的方法

    这篇文章主要介绍了C#实现去除Strings中空格的方法,较为详细的介绍了C#实现去除字符串首尾及中间空格的方法,是非常实用的技巧,需要的朋友可以参考下...2020-06-25
  • C#短时间内产生大量不重复的随机数

    在C#编程中,经常会碰到产生随机数的情况,并且是在短时间内产生一组随机数。如果这组随机数中有大量重复的,则达不到我们的要求...2020-06-25
  • JavaScript中数组去除重复的三种方法

    本文通过三种方法给大家介绍js数组去除重复的方法,实用性非常高,感兴趣的朋友一起学习吧...2016-04-24
  • php中防止post提交重复数据

    重复提交数据我们在应用中经常会碰到了,今天我给各位介绍利用session来防止用户不小心重复提交数据的一个例子 原理非常的简单:就是用session在表单页面记录下,...2016-11-25
  • 用C#生成不重复的随机数的代码

    我们在做能自动生成试卷的考试系统时,常常需要随机生成一组不重复的题目,在.net Framework中提供了一个专门用来产生随机数的类System.Random...2020-06-25
  • 横向重复区域显示二法

    方法一. 注重这里有一个预先定义的图片记录集rsmpic 要横向重复的就是图片,请根据你的情况改为你的记录集名称.整洁地将横向重复内容放在一个表格内 <table width=...2016-11-25
  • 利用asp.net实现生成不重复订单号

    订单号在购物过程中起到了很好的识别作用,更方便的有利于工作人员识别商品,本文介绍利用asp.net实现生成订单号...2021-09-22
  • vue 解决addRoutes多次添加路由重复的操作

    这篇文章主要介绍了vue 解决addRoutes多次添加路由重复的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-08-04
  • 帝国CMS同时发布到以下栏目避免重复调用的方法

    帝国CMS发布信息时有个 发布到以下栏目 的功能,非常棒。但是会导致列表页及其它地方调用时信息重复,解决办法如下http://bbs.phome.net/ShowThread/?threadid=338805&forumid=...2016-06-09
  • php 生成N个不重复的随机数实例详解

    以前我给大家有讲过生成多个随机数,下面我再来介绍一篇关于php 生成N个不重复的随机数实例,如果你有兴趣大家可参考一下。 要实现此功能并非难事,但是让我学习到很多...2016-11-25
  • Asp.net防重复提交机制实现方法

    在Button或其他控件加上下面两个属性:UseSubmitBehavior="false"及OnClientClick设置控件为不可用即可,感兴趣的朋友可以参考下哈...2021-09-22