Tachyon集群部署 | logging.DEBUG 

作者:JerryXia | 发表于 , 阅读 (0)
Tachyon如何进行集群部署?
测试环境12345678910测试环境:  Ubuntu 14.04 LTS x64  Tachyon:tachyon-0.7.1-bin.tar.gz    hostname IP  role  spark-master: 192.168.108.20   master & worker  spark-slave1: 192.168.108.21   worker  spark-slave2: 192.168.108.22   worker    !默认情况全部操作在root下进行Tachyon集群配置准备工作修改主机名12345678/** * 分别配置三台主机的主机名 * hostname: *      spark-master *      spark-slave1 *      spark-slave2 */sudo vim /etc/hostname修改hosts12345678910/** * 分别配置修改三台主机的hosts * 添加如下内容: *      192.168.108.20 spark-master *      ...阅读全文

 Python基础—列表(list)和元组(tuple) | logging.DEBUG 

作者:JerryXia | 发表于 , 阅读 (0)
分片赋值操作结合分片操作,可以一次性给多个元素赋值12345list_2[6:] = list("hello")print list_2//从index=6开始,替换了8、9,并添加了llo[1, 'a', 4, 5, 6, 7, 'h', 'e', 'l', 'l', 'o']也可以在不替换元素的情况下直接插入元素12345list_3 = [1,6]list_3[1:1] = [2,3,4,5]print list_3[1, 2, 3, 4, 5, 6]也可以用来删除元素,利用[]空列表完成1234list_3[1:4] = []print list_3[1, 5, 6]列表的方法方法是一个与某些对象相关联的函数对象名.方法名(参数),进行调用append方法用于在列表的末尾添加新元素用此方法进行操作时,是直接修改原来的列表,也就是新列表和旧列表指向同一块地址12345list_4 = ['a','b','c','d','e','f','g']list_4.append(1)print list_4['a', 'b', 'c', 'd', 'e', 'f', 'g', 1]coun...阅读全文

 Zookeeper集群环境搭建 | logging.DEBUG 

作者:JerryXia | 发表于 , 阅读 (0)
测试环境12345678910测试环境:  Ubuntu 14.04 LTS x64  ZooKeeper:zookeeper-3.4.6.tar.gz    hostname IP  role  spark-master: 192.168.108.20   master & worker  spark-slave1: 192.168.108.21   worker  spark-slave2: 192.168.108.22   worker    !默认情况全部操作在root下进行下载解压ZooKeeper地址:ZooKeeper官方下载
#配置ssh免密码登录
请参考:Tachyon集群部署
修改目录权限1sudo chmod -R 775 zookeeper-3.4.6/创建目录结构进入ZooKeeper目录
创建数据目录1mkdir data创建日志目录1mkdir logs修改zoo.cfg配置文件1234567891011cp ./conf/zoo_sample.cfg ./conf/zoo.cfgvim ./conf/zoo.cfgtickTime=2000i...阅读全文

 Python基础—序列(sequence) | logging.DEBUG 

作者:JerryXia | 发表于 , 阅读 (0)
环境及版本123Windows 10 x64Python 2.7Pycharm 4.5.1Python包含6中内建的序列——列表(list)、元组(tuple)、字符串、Unicode字符串、buffer对象和xrange对象
序列是Python中最基本的数据结构,其中可以包含一个或多个元素,也可以没有任何元素,当然也可以包含其他的序列或对象
序列的操作索引序列中的索引如同C、Java等语言中的数组下标,从0开始递增,元素的值可以通过下标访问,如同数组一样
所有序列都可以通过这种方式进行索引1234test_list = [1,2,3,4,5,6,7,8]print test_list[0]1索引为负数时表示从起始端为右边,最后一个元素的位置是-1123print test_list[-1]8分片使用分片,可以访问某个范围内的元素分片通过冒号:实现第一个索引表示起始位置(包括),第二个索引表示终止位置(不包括)12345print test_list[0:2]print test_list[1:-1][1, 2][2, 3, 4, 5, 6, 7]起始位置为空,表示从结束位置到起...阅读全文

 Hadoop集群环境搭建 | logging.DEBUG 

作者:JerryXia | 发表于 , 阅读 (0)
Hadoop如何搭建集群环境?
测试环境12345678910测试环境:  Ubuntu 14.04 LTS x64  Hadoop:hadoop-2.7.1.tar.gz    hostname IP  role  spark-master: 192.168.108.20   master & worker  spark-slave1: 192.168.108.21   worker  spark-slave2: 192.168.108.22   worker    !默认情况全部操作在root下进行下载解压Hadoop地址:Hadoop官方下载
#配置ssh免密码登录
请参考:Tachyon集群部署
修改目录权限1sudo chmod -R 775 hadoop-2.7.1/修改yarn-env.sh配置文件1234vim etc/hadoop/yarn-env.shexport HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_HOME}/lib/native  export HADOOP_OPTS="-Djava.library.path=...阅读全文