当前位置:编程学习 > C/C++ >>

对大数据量进行排序--位图法

题目:对2G的数据量进行排序,这是基本要求。
数据:1、每个数据不大于8亿;2、数据类型位int;3、每个数据最多重复一次。
内存:最多用200M的内存进行操作。
我听过很多种类似问题的解法,有的是内存多次利用,有的用到了外存,我觉得这两种做法都不是比较好的思想,太慢。由于这个题目看起来没有对效率进行约束,所以这两种方法也是对的,但是我这次提出一个比较好的算法来解答此题,如果有更好的做法请赶快跟帖留言,共同讨论。希望大神们的加入。。。。。
思想:把200M的内存平分,可以开两个数组,一个数组arr存放一遍不重复的所有数据,另一个数组arr_2只存放重复的数据。存放方法是对数组中的每个数据的位进行操作。比如:18这个数,18/32=0,18就会对应arr[0]这个数组中的某一位,而每一个数组元素都是32位组成,18%32=18,也就是说arr[0]那个数的第18位对应18这个数。同样道理再来一个数:43    43/32=1,43%32=11,也就是说43对应的是arr[1]中的第11位。只要找到了对应位置,把该位置1,其余位置不变(默认为0),遍历一次数据,就会把内存中的对应位置1.如果遇到重复数据,此时就会用到第二个数组了,若本次查询该位已经为1,那么就要把arr_2这个数组中的对应位置1。在输出的时候就要同步遍历两个数组。
输出:就是一个反向还原过程,遍历内存中的每一位,该位对应的有数组下标和所处位,进行一次乘、和运算就能还原回来数据,并依次写入文件或者打印到屏幕上。
废话不多说,直接上代码,如有问题,跟帖讨论。
[cpp]  
<pre class="cpp" name="code">#include <stdio.h>  
#include <stdlib.h>  
#define NUM 1024*1024   //数据占用的内存大小,即存储数据的载体  
#define N   1024*1024*128   //10测试正确性可以用10来测    //数据量  
  
unsigned long int arr[NUM];  
unsigned long int arr_2[NUM];  
unsigned long int temp[N];//本可不必开辟这个数组的,直接从文件中读取  
  
int main(){  
      
    int i,j,temp_num=0,temp_num_2=0,flag=0;  
     //清空内存  
   memset(arr,0,sizeof(arr));  
   memset(arr_2,0,sizeof(arr_2));  </pre><pre class="cpp" name="code"> //得到数据,存到数组中  
    for(i=0;i<N;i++){  
        temp[i]=N-i;  
        temp[i++]=N-i;  
    }  
    //下边这个循环是一个排序过程,把对应位置1,如果原来是1,就把另一块内存中的对应位置1  
    for(i=0;i<N;i++){  
        if(((arr[temp[i]/32] >> (temp[i]%32)) & 0x00000001) == 1)  
            arr_2[temp[i]/32] |= (0x00000001<<(temp[i]%32));  
        arr[temp[i]/32] |= (0x00000001<<(temp[i]%32));  
    }  
    printf("\n");  
  
    for(i=0;i<NUM && flag<N;i++){  
        if(arr[i] == 0)  
            continue;  
        temp_num=arr[i];  
        for(j=0;j<32;j++){  
            if((temp_num&0x00000001) == 0){  
                temp_num=(temp_num>>1);  
            }  
            else if((temp_num&0x0001) == 1){  
                printf("%d ",(i<<5)+j);  
                temp_num=(temp_num>>1);  
                temp_num_2=arr[i];  
                flag++;  
                //重复数据的输出  
                if((temp_num_2&0x00000001) == 1){  
                    printf("%d ",(i<<5)+j);  
                    flag++;  
                }  
  
            }  
        }  
    }  www.zzzyk.com
    printf("\n");  
    return 0;  
}</pre><br>  
<br>  
<p></p>  
<pre></pre>  
<p></p>  
<p></p>  
<pre></pre>  
<p></p>  
补充:软件开发 , C++ ,
CopyRight © 2022 站长资源库 编程知识问答 zzzyk.com All Rights Reserved
部分文章来自网络,