Oracle與TimesTen記憶體資料庫Cache Group同步效率與TimesTen主備資料同步機制研究

tangyunoracle發表於2015-01-29

隨著企業級資訊系統一體化建設不斷完善,資訊基礎設施和軟硬體快速擴充,資訊系統複雜度大幅提高,資料量呈幾何倍數急劇增長,集中式資料中心、大規模資料容災中心建設,結構化與非結構化資料儲存擴容等使電力企業資訊逐步顯現出大容量、多種類、快速處理和高時效性的特徵。而應用系統一貫採用的傳統關係型資料庫(RDBMS)在應付海量資料、大規模使用者、高併發、web2.0網站等方面顯得力不從心,難以滿足大資料的處理需求。

為引入記憶體資料庫技術,為研究確保資料的永續性和高可用性為前提,滿足高併發、高時效的應用需要,需要研究記憶體庫的同步能力。TimesTen記憶體資料庫的同步技術分為非同步模式和同步模式,非同步模式即無須等待接收方響應,直接處理下一個事務;同步模式即等待接收方返回的響應資訊再處理下一個事務。同步模式分為同步友好模式和同步非友好模式兩種。非同步模式側重於主節點資料變化時,能夠高速同步到備節點而不影響主節點的效能,而同步模式側重於主備節點資料的一致性;研究OracleTimesTen的資料同步及TimesTen同步模式和非同步模式同步技術的優缺點。

術語定義

縮寫

全稱/定義

TT

TimesTen記憶體資料庫

同步模式

同一時間點主備事務一致

非同步模式

同一時間點主備事務可能不一致

主日誌

主節點當前日誌檔案序號

備日誌

備節點當前日誌檔案序號

主節點

互為主備模式記憶體庫的主節點

備節點

互為主備模式記憶體庫的備節點

 

研究範圍

記憶體庫研究與應用專案資料同步機制研究主要包括:

研究專案

研究專案內容說明

OracleTT資料同步效能研究

研究指定重新整理間隔時間內OracleTT資料同步的極限同步能力

兩種同步模式主備同步效能研究

研究非同步模式、同步友好模式及同步非友好模式主備同步的極限同步能力

研究OracleTT的同步效能

     OracleTimesTen資料同步機制研究採用直接對Oracle端業務表進行直接更新的方式,按照事務大小進行對比,比如1萬行記錄、2萬行記錄、3萬行記錄、4萬行記錄、5萬行記錄、10萬行記錄、15萬行記錄、20萬行記錄、30萬行記錄……,觀察是否能及時重新整理完成,統計更新相應的記錄數重新整理到TimesTen端需要的時間,計算指定重新整理間隔時間內的極限重新整理能力。

Oracle到TT資料同步研究

    Oracle端到TT端同步步驟大致為【Oracle端資料更新】→【TT端根據重新整理間隔觸發重新整理】→【根據Oracle日誌表關聯查詢基表資料】→【提取基表查詢結果】→【寫入TT端記憶體庫】→【重新整理完成】,詳細重新整理研究結果如下【表4.2Oracle端更新不同資料量研究】。

【表4.2Oracle端更新不同資料量研究】

重新整理開始時間

次序

耗時MS

記錄數

大小B

查詢
時間

獲取資料

時間

寫入
時間

重新整理狀態

 2013-12-03 17:55:33

11

0

0

0

0

0

0

 Complete

 2013-12-03 17:56:03

12

0

0

0

0

0

0

 Complete

 2013-12-03 17:56:33

13

0

0

0

0

0

0

 Complete

 2013-12-03 17:57:03

14

0

0

0

0

0

0

 Complete

 2013-12-03 17:57:33

15

0

0

0

0

0

0

 Complete

 2013-12-03 17:58:03

16

0

0

0

0

0

0

 Complete

 2013-12-03 17:58:33

17

940

10000

717323

280

130

530

 Complete

 2013-12-03 17:59:03

18

0

0

0

0

0

0

 Complete

 2013-12-03 17:59:33

19

0

0

0

0

0

0

 Complete

 2013-12-03 18:00:03

20

0

0

0

0

0

0

 Complete

 2013-12-03 18:00:33

21

1360

20000

1438330

290

50

1010

 Complete

 2013-12-03 18:01:03

22

0

0

0

0

0

0

 Complete

 2013-12-03 18:01:33

23

0

0

0

0

0

0

 Complete

 2013-12-03 18:02:03

24

0

0

0

0

0

0

 Complete

 2013-12-03 18:02:33

25

0

0

0

0

0

0

 Complete

 2013-12-03 18:03:03

26

1320

20000

1438330

240

50

1020

 Complete

 2013-12-03 18:03:33

27

0

0

0

0

0

0

 Complete

 2013-12-03 18:04:03

28

0

0

0

0

0

0

 Complete

 2013-12-03 18:04:33

29

0

0

0

0

0

0

 Complete

 2013-12-03 18:05:03

30

2270

30000

2153166

500

130

1640

 Complete

 2013-12-03 18:05:33

31

2650

40000

2864245

520

50

2080

 Complete

 2013-12-03 18:06:03

32

0

0

0

0

0

0

 Complete

 2013-12-03 18:06:33

33

0

0

0

0

0

0

 Complete

 2013-12-03 18:07:33

34

0

0

0

0

0

0

 Complete

 2013-12-03 18:08:03

35

2640

40000

2864245

480

110

2040

 Complete

 2013-12-03 18:08:33

36

0

0

0

0

0

0

 Complete

 2013-12-03 18:09:03

37

0

0

0

0

0

0

 Complete

 2013-12-03 18:09:33

38

0

0

0

0

0

0

 Complete

 2013-12-03 18:10:03

39

0

0

0

0

0

0

 Complete

 2013-12-03 18:11:03

40

6890

100000

7179067

1420

150

5320

 Complete

 2013-12-03 18:11:33

41

7100

100000

7179067

1230

580

5290

 Complete

 2013-12-03 18:12:03

42

6620

100000

7179067

1230

120

5270

 Complete

 2013-12-03 18:12:33

43

0

0

0

0

0

0

 Complete

 2013-12-03 18:13:03

44

0

0

0

0

0

0

 Complete

 2013-12-03 18:13:33

45

0

0

0

0

0

0

 Complete

 2013-12-03 18:14:03

46

0

0

0

0

0

0

 Complete

 2013-12-03 18:14:33

47

7070

100000

7179067

1360

120

5590

 Complete

 2013-12-03 18:15:03

48

0

0

0

0

0

0

 Complete

 2013-12-03 18:15:33

49

0

0

0

0

0

0

 Complete

 2013-12-03 18:16:03

50

0

0

0

0

0

0

 Complete

 2013-12-03 18:16:33

51

0

0

0

0

0

0

 Complete

 2013-12-03 18:17:03

52

10810

150000

10837632

2210

430

8170

 Complete

 2013-12-03 18:17:33

53

0

0

0

0

0

0

 Complete

 2013-12-03 18:18:03

54

0

0

0

0

0

0

 Complete

 2013-12-03 18:18:33

55

3510

50000

3579815

740

150

2620

 Complete

 2013-12-03 18:19:03

56

7220

100000

7179067

1570

370

5280

 Complete

 2013-12-03 18:19:33

57

0

0

0

0

0

0

 Complete

 2013-12-03 18:20:03

58

10760

150000

10837632

1920

890

7950

 Complete

 2013-12-03 18:20:33

59

10040

150000

10837632

1860

190

7980

 Complete

 2013-12-03 18:21:03

60

0

0

0

0

0

0

 Complete

 2013-12-03 18:21:33

61

0

0

0

0

0

0

 Complete

 2013-12-03 18:22:03

62

0

0

0

0

0

0

 Complete

 2013-12-03 18:22:33

63

0

0

0

0

0

0

 Complete

 2013-12-03 18:23:03

64

8410

100000

7179067

1650

1400

5350

 Complete

 2013-12-03 18:23:33

65

0

0

0

0

0

0

 Complete

 2013-12-03 18:24:03

66

0

0

0

0

0

0

 Complete

 2013-12-03 18:24:33

67

0

0

0

0

0

0

 Complete

 2013-12-03 18:25:03

68

11310

150000

10837632

1940

1250

8120

 Complete

 2013-12-03 18:26:03

69

10120

150000

10837632

1840

340

7920

 Complete

 2013-12-03 18:26:33

70

0

0

0

0

0

0

 Complete

 2013-12-03 18:27:03

71

0

0

0

0

0

0

 Complete

 2013-12-03 18:27:33

72

0

0

0

0

0

0

 Complete

 2013-12-03 18:28:03

73

0

0

0

0

0

0

 Complete

 2013-12-03 18:28:33

74

0

0

0

0

0

0

 Complete

 2013-12-03 18:29:03

75

0

0

0

0

0

0

 Complete

 2013-12-03 18:29:33

76

0

0

0

0

0

0

 Complete

 2013-12-03 18:30:03

77

0

0

0

0

0

0

 Complete

 2013-12-03 18:30:33

78

0

0

0

0

0

0

 Complete

 2013-12-03 18:31:03

79

0

0

0

0

0

0

 Complete

 2013-12-03 18:31:33

80

0

0

0

0

0

0

 InProgress

 2013-12-03 18:31:33

81

14010

200000

14407078

2610

340

11050

 Complete

 2013-12-03 18:32:33

82

0

0

0

0

0

0

 Complete

 2013-12-03 18:33:03

83

0

0

0

0

0

0

 Complete

 2013-12-03 18:33:33

84

0

0

0

0

0

0

 Complete

 2013-12-03 18:34:03

85

0

0

0

0

0

0

 Complete

 2013-12-03 18:34:33

86

0

0

0

0

0

0

 Complete

 2013-12-03 18:35:03

87

15170

200000

14407078

3490

900

10770

 Complete

 2013-12-03 18:36:03

88

0

0

0

0

0

0

 Complete

 2013-12-03 18:36:33

89

21070

300000

21507035

4430

410

16210

 Complete

 2013-12-03 18:37:37

90

0

0

0

0

0

0

 Complete

 2013-12-03 18:38:03

91

0

0

0

0

0

0

 Complete

 2013-12-03 18:38:33

92

0

0

0

0

0

0

 Complete

 2013-12-03 18:39:03

93

0

0

0

0

0

0

 Complete

 2013-12-03 18:39:33

94

0

0

0

0

0

0

 Complete

 2013-12-03 18:40:03

95

0

0

0

0

0

0

 Complete

 2013-12-03 18:40:33

96

0

0

0

0

0

0

 Complete

 2013-12-03 18:41:03

97

7450

100000

7179067

1730

390

5330

 Complete

 2013-12-03 18:41:33

98

0

0

0

0

0

0

 Complete

 2013-12-03 18:42:03

99

0

0

0

0

0

0

 Complete

 2013-12-03 18:42:33

100

0

0

0

0

0

0

 Complete

 2013-12-03 18:43:03

101

0

139278

9965910

2160

500

7330

 InProgress

 2013-12-03 18:43:03

101

27500

400000

28601207

5510

500

21480

 Complete

 2013-12-03 18:44:35

102

0

0

0

0

0

0

 Complete

 2013-12-03 18:45:03

103

0

0

0

0

0

0

 Complete

 2013-12-03 18:45:33

104

0

0

0

0

0

0

 Complete

 2013-12-03 18:46:03

105

0

0

0

0

0

0

 Complete

 2013-12-03 18:46:33

106

0

0

0

0

0

0

 Complete

 2013-12-03 18:47:03

107

0

0

0

0

0

0

 Complete

 2013-12-03 18:47:33

108

0

0

0

0

0

0

 Complete

 2013-12-03 18:48:03

109

0

0

0

0

0

0

 Complete

 2013-12-03 18:48:33

110

0

0

0

0

0

0

 Complete

 2013-12-03 18:49:03

111

37100

500000

35716215

9570

640

26880

 Complete

 2013-12-03 18:50:57

112

0

0

0

0

0

0

 Complete

 2013-12-03 18:51:03

113

0

0

0

0

0

0

 Complete

 2013-12-03 18:51:33

114

0

0

0

0

0

0

 Complete

 2013-12-03 18:52:03

115

0

0

0

0

0

0

 Complete

 2013-12-03 18:52:33

116

0

0

0

0

0

0

 Complete

 2013-12-03 18:53:03

117

0

0

0

0

0

0

 Complete

 2013-12-03 18:53:33

118

7441

100000

7179067

1730

390

5330

 Complete

 2013-12-03 18:54:33

119

0

0

0

0

0

0

 Complete

 2013-12-03 18:55:03

120

0

0

0

0

0

0

 Complete

 2013-12-03 18:55:33

121

0

0

0

0

0

0

 Complete

 2013-12-03 18:56:03

122

0

0

0

0

0

0

 Complete

 2013-12-03 18:56:33

123

0

0

0

0

0

0

 Complete

 2013-12-03 18:57:33

124

0

0

0

0

0

0

 Complete

 2013-12-03 18:58:03

125

80570

1000000

71533732

24130

1600

54820

 Complete

 2013-12-03 18:58:03

126

80570

1000000

71533732

24130

1600

54820

 InProgress

 2013-12-03 19:01:06

126

67110

1000000

71533732

12440

1300

53340

 Complete

 2013-12-03 19:03:24

127

0

0

0

0

0

0

 Complete

 2013-12-03 19:03:33

128

0

0

0

0

0

0

 Complete

 2013-12-03 19:04:04

129

0

0

0

0

0

0

 Complete

 2013-12-03 19:04:34

130

0

0

0

0

0

0

 Complete

 2013-12-03 19:05:03

131

0

0

0

0

0

0

 Complete

 2013-12-03 19:05:34

132

0

0

0

0

0

0

 Complete

 2013-12-03 19:06:04

133

0

0

0

0

0

0

 Complete

 2013-12-03 19:06:34

134

0

0

0

0

0

0

 Complete

 2013-12-03 19:07:04

135

0

0

0

0

0

0

 InProgress

 2013-12-03 19:07:04

135

60000

800000

57214756

16080

1110

42800

 Complete

 2013-12-03 19:10:22

136

0

0

0

0

0

0

 Complete

 2013-12-03 19:10:34

137

0

0

0

0

0

0

 Complete

 2013-12-03 19:11:04

138

0

0

0

0

0

0

 Complete

 2013-12-03 19:25:40

139

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

140

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

141

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

142

0

0

0

0

0

0

 InProgress

 2013-12-03 19:25:40

143

0

0

0

0

0

0

 Complete

 2013-12-03 19:42:51

144

0

232618

16655038

30870

7490

12260

 InProgress

 2013-12-03 19:42:51

144

0

2956438

211421377

121060

7490

163040

 InProgress

 2013-12-03 19:42:51

144

334550

3560371

254560930

129030

7490

197940

 Complete

 2013-12-03 19:42:51

145

334550

3560371

254560930

129030

7490

197940

 InProgress

 2013-12-03 19:42:51

145

334550

3560371

254560930

129030

7490

197940

 InProgress

 2013-12-03 19:55:13

145

0

0

0

0

0

0

 Complete

 2013-12-03 19:55:43

146

0

0

0

0

0

0

 Complete

 2013-12-03 19:56:13

147

0

0

0

0

0

0

 Complete

 

根據【表4.2Oracle端更新不同資料量研究】重新整理研究結果可以得知,當Oracle更新資料量小於15萬行記錄時,無論是查詢+資料提取+資料寫入均能在重新整理間隔內完成。

根據【表4.2Oracle端更新不同資料量研究】重新整理研究結果可以得知,即使Oracle多次更新10萬、15萬行記錄時,均能再重新整理間隔內完成;結合前期的運維經驗和Oracle官方理論,只要Oracle端效能滿足,並將每張同步到TT端的CacheGroup表的重新整理間隔設定為不同時間值,當Oracle更新資料量小於15萬行記錄時,均能在重新整理間隔內完成。

根據【表4.2Oracle端更新不同資料量研究】重新整理研究結果可以得知,當Oracle更新資料量為20萬時,重新整理在1分鐘內完成;當Oracle更新資料量為30-50萬時,重新整理均能在2分鐘左右完成。

根據【表4.2Oracle端更新不同資料量研究】重新整理研究結果可以得知,當Oracle更新資料量為80萬時,重新整理耗時約為3分鐘18秒;當Oracle更新資料量為100萬時,重新整理耗時約為5分鐘21秒;當Oracle更新資料量為350多萬時,重新整理耗時約長達44分鐘9秒左右,而且當Oracle端重新整理為80萬、100萬、350萬時,無論是重新整理總時間、查詢時間、提取時間、寫入時間均並非簡單的成倍增長,而是呈近指數增長,同時需要消耗大量的Oracle資源。

綜合上述研究分析,指定的重新整理間隔時間30秒內,基表大小約為600MB,極限重新整理能力約為Oracle端更新15萬行記錄。

研究TT三種同步模式同步效能

     記憶體庫研究與應用專案主備同步效能的研究主要包括非同步模式主備同步效能、同步友好模式主備同步效能、同步非友好模式主備同步效能的研究。

TT非同步模式主備同步效能

5.1非同步模式主備同步效能】

模式

主日誌

備日誌

日誌大小

日誌檔案

生成日誌(Byte)

生成日誌(MB)

堆積數量

非同步

16

16

472178688

gxdwdata.log16

0

0.0

0

非同步

16

16

472178688

gxdwdata.log16

0

0.0

0

非同步

16

16

564201472

gxdwdata.log16

92022784

87.8

0

非同步

16

16

564332544

gxdwdata.log16

131072

0.1

0

非同步

16

16

564332544

gxdwdata.log16

0

0.0

0

非同步

16

16

919275520

gxdwdata.log16

354942976

338.5

0

非同步

16

16

1012684800

gxdwdata.log16

93409280

89.1

0

非同步

16

16

1012684800

gxdwdata.log16

0

0.0

0

非同步

16

16

1012684800

gxdwdata.log16

0

0.0

0

非同步

16

16

1012867072

gxdwdata.log16

182272

0.2

0

非同步

17

16

180541440

gxdwdata.log17

241416192

230.2

1

非同步

17

16

180541440

gxdwdata.log17

0

0.0

1

非同步

17

17

180541440

gxdwdata.log17

0

0.0

0

非同步

17

17

648785920

gxdwdata.log17

468244480

446.6

0

非同步

17

17

870094848

gxdwdata.log17

221308928

211.1

0

非同步

17

17

870094848

gxdwdata.log17

0

0.0

0

非同步

17

17

870094848

gxdwdata.log17

0

0.0

0

非同步

17

17

912271360

gxdwdata.log17

42176512

40.2

0

非同步

18

17

53446656

gxdwdata.log18

214917120

205.0

1

非同步

18

17

72667136

gxdwdata.log18

19220480

18.3

1

非同步

18

18

72798208

gxdwdata.log18

131072

0.1

0

非同步

18

18

72798208

gxdwdata.log18

0

0.0

0

非同步

18

18

72798208

gxdwdata.log18

0

0.0

0

非同步

18

18

794580992

gxdwdata.log18

721782784

688.3

0

非同步

18

18

809480192

gxdwdata.log18

14899200

14.2

0

非同步

18

18

809480192

gxdwdata.log18

0

0.0

0

非同步

18

18

809480192

gxdwdata.log18

0

0.0

0

非同步

19

18

1073741824

gxdwdata.log18

264261632

252.0

1

非同步

19

18

472076288

gxdwdata.log19

472076288

450.2

1

非同步

19

18

472076288

gxdwdata.log19

0

0.0

1

非同步

19

19

472076288

gxdwdata.log19

0

0.0

0

非同步

19

19

521168896

gxdwdata.log19

49092608

46.8

0

非同步

20

19

122300416

gxdwdata.log20

674873344

643.6

1

非同步

20

19

134701056

gxdwdata.log20

12400640

11.8

1

非同步

20

19

134701056

gxdwdata.log20

0

0.0

1

非同步

20

20

134701056

gxdwdata.log20

0

0.0

0

非同步

20

20

766324736

gxdwdata.log20

631623680

602.4

0

非同步

20

20

823263232

gxdwdata.log20

56938496

54.3

0

非同步

20

20

823263232

gxdwdata.log20

0

0.0

0

非同步

20

20

823263232

gxdwdata.log20

0

0.0

0

非同步

21

20

1050750976

gxdwdata.log20

227487744

216.9

1

非同步

21

20

549615616

gxdwdata.log21

572606464

546.1

1

非同步

21

20

786374656

gxdwdata.log21

236759040

225.8

1

非同步

22

21

1073741824

gxdwdata.log21

287367168

274.1

1

非同步

22

21

470370304

gxdwdata.log22

470370304

448.6

1

非同步

22

21

887496704

gxdwdata.log22

417126400

397.8

1

非同步

22

21

908316672

gxdwdata.log22

20819968

19.9

1

非同步

23

22

306601984

gxdwdata.log23

472027136

450.2

1

非同步

23

22

498997248

gxdwdata.log23

192395264

183.5

1

非同步

23

22

515258368

gxdwdata.log23

16261120

15.5

1

非同步

23

22

548517888

gxdwdata.log23

33259520

31.7

1

非同步

23

22

548517888

gxdwdata.log23

0

0.0

1

非同步

23

22

548517888

gxdwdata.log23

0

0.0

1

非同步

23

22

548517888

gxdwdata.log23

0

0.0

1

非同步

23

23

548517888

gxdwdata.log23

0

0.0

0

非同步

23

23

548517888

gxdwdata.log23

0

0.0

0

非同步

23

23

1013268480

gxdwdata.log23

464750592

443.2

0

非同步

24

23

172226560

gxdwdata.log24

232699904

221.9

1

非同步

24

23

364670976

gxdwdata.log24

192444416

183.5

1

非同步

24

23

532867072

gxdwdata.log24

168196096

160.4

1

非同步

24

23

550877184

gxdwdata.log24

18010112

17.2

1

非同步

24

23

564828160

gxdwdata.log24

13950976

13.3

1

非同步

24

23

603709440

gxdwdata.log24

38881280

37.1

1

非同步

24

23

645679104

gxdwdata.log24

41969664

40.0

1

非同步

24

23

649621504

gxdwdata.log24

3942400

3.8

1

非同步

24

23

820412416

gxdwdata.log24

170790912

162.9

1

非同步

25

23

139472896

gxdwdata.log25

392802304

374.6

2

非同步

25

23

523927552

gxdwdata.log25

384454656

366.6

2

非同步

25

23

897165312

gxdwdata.log25

373237760

355.9

2

非同步

26

23

196116480

gxdwdata.log26

372692992

355.4

3

非同步

26

23

568256512

gxdwdata.log26

372140032

354.9

3

非同步

26

24

828354560

gxdwdata.log26

260098048

248.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

24

828354560

gxdwdata.log26

0

0.0

2

非同步

26

26

828354560

gxdwdata.log26

0

0.0

0

非同步

26

26

828354560

gxdwdata.log26

0

0.0

0

非同步

26

26

828354560

gxdwdata.log26

0

0.0

0

非同步

26

26

828483584

gxdwdata.log26

0

0.0

0

非同步

26

26

828483584

gxdwdata.log26

0

0.0

0

非同步

26

26

956956672

gxdwdata.log26

128473088

122.5

0

非同步

27

26

568782848

gxdwdata.log27

685568000

653.8

1

非同步

28

27

94957568

gxdwdata.log28

599916544

572.1

1

非同步

28

27

602535936

gxdwdata.log28

507578368

484.1

1

非同步

28

27

910682112

gxdwdata.log28

308146176

293.9

1

非同步

29

27

330805248

gxdwdata.log29

493864960

471.0

2

非同步

29

27

519911424

gxdwdata.log29

189106176

180.3

2

非同步

29

28

800059392

gxdwdata.log29

280147968

267.2

1

非同步

30

28

103424000

gxdwdata.log30

377106432

359.6

2

非同步

30

28

313202688

gxdwdata.log30

209778688

200.1

2

非同步

30

28

497510400

gxdwdata.log30

184307712

175.8

2

非同步

30

28

553316352

gxdwdata.log30

55805952

53.2

2

非同步

30

28

553316352

gxdwdata.log30

0

0.0

2

非同步

30

28

553316352

gxdwdata.log30

0

0.0

2

非同步

30

29

588482560

gxdwdata.log30

35166208

33.5

1

非同步

30

29

622204928

gxdwdata.log30

33722368

32.2

1

非同步

30

29

651894784

gxdwdata.log30

29689856

28.3

1

非同步

30

29

652025856

gxdwdata.log30

131072

0.1

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

29

652025856

gxdwdata.log30

0

0.0

1

非同步

30

30

652025856

gxdwdata.log30

0

0.0

0

非同步

30

30

652025856

gxdwdata.log30

0

0.0

0

非同步

30

30

652025856

gxdwdata.log30

0

0.0

0

非同步

30

30

652156928

gxdwdata.log30

0

0.0

0

非同步

30

30

695898112

gxdwdata.log30

43741184

41.7

0

非同步

31

30

35698688

gxdwdata.log31

413542400

394.4

1

非同步

31

30

653455360

gxdwdata.log31

617756672

589.1

1

非同步

31

30

966776832

gxdwdata.log31

313321472

298.8

1

非同步

32

31

362881024

gxdwdata.log32

469846016

448.1

1

非同步

32

31

775364608

gxdwdata.log32

412483584

393.4

1

非同步

33

31

159547392

gxdwdata.log33

457924608

436.7

2

非同步

33

31

373682176

gxdwdata.log33

214134784

204.2

2

非同步

33

32

373682176

gxdwdata.log33

0

0.0

1

非同步

33

32

373682176

gxdwdata.log33

0

0.0

1

非同步

33

32

408479744

gxdwdata.log33

34797568

33.2

1

非同步

33

32

819152896

gxdwdata.log33

410673152

391.6

1

非同步

34

32

1072306176

gxdwdata.log33

253153280

241.4

2

非同步

34

32

210472960

gxdwdata.log34

211908608

202.1

2

非同步

34

32

390080512

gxdwdata.log34

179607552

171.3

2

非同步

34

33

425269248

gxdwdata.log34

35188736

33.6

1

非同步

34

33

465584128

gxdwdata.log34

40314880

38.4

1

非同步

34

33

495722496

gxdwdata.log34

30138368

28.7

1

非同步

34

33

515878912

gxdwdata.log34

20156416

19.2

1

非同步

34

33

778268672

gxdwdata.log34

262389760

250.2

1

非同步

35

33

129134592

gxdwdata.log35

424607744

404.9

2

非同步

35

33

517652480

gxdwdata.log35

388517888

370.5

2

非同步

35

33

929912832

gxdwdata.log35

412260352

393.2

2

非同步

36

33

241172480

gxdwdata.log36

385001472

367.2

3

非同步

36

33

626069504

gxdwdata.log36

384897024

367.1

3

非同步

36

33

711903232

gxdwdata.log36

85833728

81.9

3

非同步

36

33

712034304

gxdwdata.log36

131072

0.1

3

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

34

712034304

gxdwdata.log36

0

0.0

2

非同步

36

36

712034304

gxdwdata.log36

0

0.0

0

非同步

36

36

712034304

gxdwdata.log36

0

0.0

0

非同步

36

36

712034304

gxdwdata.log36

0

0.0

0

 

表【5.1非同步模式主備同步效能】研究輸出結果為每10秒輸出一次。

根據【5.1非同步模式主備同步效能】非同步主備同步研究結果可以得知,當主節點分別更新230.2MB233.3MB時,均能在20秒內同步到備節點,即平均每分鐘主節點產生700MB左右的日誌大小能從主節點同步到備節點,不存在日誌堆積。

根據【5.1非同步模式主備同步效能】非同步主備同步研究結果可以得知,當主節點兩次更新702.6MB時,均能在30秒內同步到備節點,即平均每分鐘主節點產生1.36GB左右的日誌大小能從主節點同步到備節點,不存在日誌堆積。

根據【5.1非同步模式主備同步效能】非同步主備同步研究結果可以得知,當主節點兩次更新3805.2MB時,出現日誌堆積,耗時240秒同步到備節點,即平均每分鐘約同步951.3MB

根據【5.1非同步模式主備同步效能】非同步主備同步研究結果可以得知,當主節點兩次更新6159.3MB時,出現日誌堆積,耗時400秒同步到備節點,即平均每分鐘約同步923.9MB

綜合上述研究分析,非同步模式下TT主備同步極限值約為1GB,即主節點每分鐘產生小於1GB的事務日誌時,事務日誌能正常同步到備節點,不影響主備同步;當主節點每分鐘產生事務日誌大於1GB時,將出現日誌堆積,影響主備正常同步。

TT同步模式主備同步效能

主備同步研究計劃採用業務表編寫DML指令碼,研究同步模式(友好及非友好)及非同步模式,

針對3個模式,分別採用直接對TT主節點更新(增刪改)的方式,按照事務日誌生成速度進行對比,比如1M/S,5M/S,10M/S……,觀察TT資料庫同步程式是否會出現日誌堆積。

TT同步友好模式主備同步效能

5.2.1.1同步友好模式主備同步效能】

模式

主日誌

備日誌

日誌大小

日誌檔案

生成日誌(B)

生成日誌(MB)

堆積日誌

同步

37

37

775348224

gxdwdata.log37

0

0.0

0

同步

37

37

775348224

gxdwdata.log37

0

0.0

0

同步

37

37

785033216

gxdwdata.log37

9684992

9.2

0

同步

37

37

785033216

gxdwdata.log37

0

0.0

0

同步

37

37

802879488

gxdwdata.log37

17846272

17.0

0

同步

37

37

803872768

gxdwdata.log37

993280

0.9

0

同步

37

37

847409152

gxdwdata.log37

43536384

41.5

0

同步

37

37

850475008

gxdwdata.log37

3065856

2.9

0

同步

37

37

932730880

gxdwdata.log37

82255872

78.4

0

同步

38

37

1040828416

gxdwdata.log37

108097536

103.1

0

同步

38

38

462802944

gxdwdata.log38

495716352

472.8

1

同步

38

38

549963776

gxdwdata.log38

87160832

83.1

0

同步

38

38

559912960

gxdwdata.log38

9949184

9.5

0

同步

38

38

559912960

gxdwdata.log38

0

0.0

0

同步

38

38

748879872

gxdwdata.log38

188966912

180.2

0

同步

39

38

85473280

gxdwdata.log39

410335232

391.3

0

同步

39

38

208726016

gxdwdata.log39

123252736

117.5

1

非同步

39

38

223719424

gxdwdata.log39

14993408

14.3

1

非同步

39

39

223719424

gxdwdata.log39

0

0.0

1

非同步

39

39

223719424

gxdwdata.log39

0

0.0

0

非同步

39

39

223719424

gxdwdata.log39

0

0.0

0

非同步

39

39

223848448

gxdwdata.log39

129024

0.1

0

非同步

39

39

223848448

gxdwdata.log39

0

0.0

0

非同步

39

39

223848448

gxdwdata.log39

0

0.0

0

同步

39

39

669839360

gxdwdata.log39

445990912

425.3

0

同步

39

39

945930240

gxdwdata.log39

276090880

263.3

0

非同步

39

39

954183680

gxdwdata.log39

8253440

7.9

0

非同步

39

39

960778240

gxdwdata.log39

6594560

6.3

0

非同步

39

39

960778240

gxdwdata.log39

0

0.0

0

非同步

39

39

960778240

gxdwdata.log39

0

0.0

0

非同步

39

39

960778240

gxdwdata.log39

0

0.0

0

非同步

39

39

960909312

gxdwdata.log39

131072

0.1

0

同步

40

39

128694272

gxdwdata.log40

241526784

230.3

0

同步

40

40

523194368

gxdwdata.log40

394500096

376.2

1

同步

40

40

573392896

gxdwdata.log40

50198528

47.9

0

同步

40

40

578197504

gxdwdata.log40

4804608

4.6

0

同步

40

40

578197504

gxdwdata.log40

0

0.0

0

同步

40

40

578197504

gxdwdata.log40

0

0.0

0

同步

40

40

819730432

gxdwdata.log40

241532928

230.3

0

同步

41

40

185444352

gxdwdata.log41

439455744

419.1

0

同步

41

40

195485696

gxdwdata.log41

10041344

9.6

1

同步

41

41

195485696

gxdwdata.log41

0

0.0

1

同步

41

41

195485696

gxdwdata.log41

0

0.0

0

同步

41

41

570183680

gxdwdata.log41

374697984

357.3

0

同步

41

41

876486656

gxdwdata.log41

306302976

292.1

0

同步

41

41

886528000

gxdwdata.log41

10041344

9.6

0

同步

41

41

886528000

gxdwdata.log41

0

0.0

0

同步

41

41

886528000

gxdwdata.log41

0

0.0

0

同步

42

41

102858752

gxdwdata.log42

290072576

276.6

0

同步

42

42

482656256

gxdwdata.log42

379797504

362.2

1

同步

42

42

535318528

gxdwdata.log42

52662272

50.2

0

非同步

42

42

550238208

gxdwdata.log42

14919680

14.2

0

非同步

42

42

550238208

gxdwdata.log42

0

0.0

0

非同步

42

42

550238208

gxdwdata.log42

0

0.0

0

同步

42

42

559992832

gxdwdata.log42

9754624

9.3

0

同步

42

42

559992832

gxdwdata.log42

0

0.0

0

同步

42

42

559992832

gxdwdata.log42

0

0.0

0

同步

42

42

630095872

gxdwdata.log42

70103040

66.9

0

同步

42

42

717289472

gxdwdata.log42

87193600

83.2

0

同步

42

42

968708096

gxdwdata.log42

251418624

239.8

0

同步

43

42

334229504

gxdwdata.log43

439263232

418.9

0

同步

43

42

405661696

gxdwdata.log43

71432192

68.1

1

同步

43

43

943376384

gxdwdata.log43

537714688

512.8

1

同步

43

43

1066702848

gxdwdata.log43

123326464

117.6

0

非同步

44

43

38139904

gxdwdata.log44

45178880

43.1

0

同步

44

43

425166848

gxdwdata.log44

387026944

369.1

1

非同步

44

44

440072192

gxdwdata.log44

14905344

14.2

1

非同步

44

44

691785728

gxdwdata.log44

251713536

240.1

0

非同步

44

44

972124160

gxdwdata.log44

280338432

267.4

0

非同步

45

44

227092480

gxdwdata.log45

328710144

313.5

0

 

表【5.2.1.1同步友好模式主備同步效能】研究輸出結果為每10秒輸出一次。

根據【5.2.1.1同步友好模式主備同步效能】同步友好模式主備同步研究結果以及研究加壓過程中,可以得知,同步模式與日誌堆積無直接關係,與事務的大小及設定超時時間有直接關係,當主節點的事務較大(研究中更新10萬行記錄,約38MB),而且此時記憶體庫較忙時就會出現【5.2.1.2事務超時報錯資訊】錯誤,同時同步模式將轉回非同步模式,由於該設定為友好同步模式,所以此時主節點的事務會提交,繼續下一個事務的處理;當下一個事務提交時,TT會嘗試將非同步模式轉會同步模式。

5.2.1.2事務超時報錯資訊】

Source File: cmdutil.c on line number 1375

SQL State: S1T00

Native Error Code: 6003

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT6003: Lock request denied because of time-out

Details: Tran 9.9001 (pid 151658) wants Xn lock on rowid BMUFVUAAAAAAFTbF5g, table FMISMAIN.WF_PENDINGITEMINFO2. But tran 8.1536 (pid 266292) has it in Xn (request was Xn). Holder SQL (update FMISMAIN.WF_PENDINGITEMINFO2 set POSTID='NNDW',YHDM=1211 where rownum<=100000) -- file "tindex.c", lineno 4457, procedure "sbTixNext()"

The command failed.

TT同步非友好模式主備同步效能 

5.2.2.1同步非友好模式主備同步效能】

模式

主日誌

備日誌

日誌大小

日誌檔案

生成日誌(Byte)

生成日誌(MB)

堆積數量

同步

59

59

641005568

gxdwdata.log59

0

0.0

0

同步

59

59

641005568

gxdwdata.log59

0

0.0

0

同步

59

59

650612736

gxdwdata.log59

9607168

9.2

0

同步

59

59

679106560

gxdwdata.log59

28493824

27.2

0

同步

59

59

679106560

gxdwdata.log59

0

0.0

0

同步

59

59

679106560

gxdwdata.log59

0

0.0

0

同步

59

59

743847936

gxdwdata.log59

64741376

61.7

0

同步

59

59

744359936

gxdwdata.log59

512000

0.5

0

同步

59

59

785850368

gxdwdata.log59

41490432

39.6

0

同步

59

59

873183232

gxdwdata.log59

87332864

83.3

0

同步

59

59

883027968

gxdwdata.log59

9844736

9.4

0

同步

59

59

883027968

gxdwdata.log59

0

0.0

0

同步

59

59

883027968

gxdwdata.log59

0

0.0

0

同步

59

59

924549120

gxdwdata.log59

41521152

39.6

0

同步

59

59

1011746816

gxdwdata.log59

87197696

83.2

0

同步

60

59

189341696

gxdwdata.log60

251336704

239.7

1

同步

60

59

541995008

gxdwdata.log60

352653312

336.3

1

同步

60

60

629866496

gxdwdata.log60

87871488

83.8

0

同步

60

60

638963712

gxdwdata.log60

9097216

8.7

0

同步

60

60

638963712

gxdwdata.log60

0

0.0

0

同步

60

60

638963712

gxdwdata.log60

0

0.0

0

同步

60

60

991823872

gxdwdata.log60

352860160

336.5

0

同步

61

60

208562176

gxdwdata.log61

290480128

277.0

1

同步

61

60

287772672

gxdwdata.log61

79210496

75.5

1

非同步

61

61

302755840

gxdwdata.log61

14983168

14.3

0

非同步

61

61

302755840

gxdwdata.log61

0

0.0

0

非同步

61

61

302755840

gxdwdata.log61

0

0.0

0

非同步

61

61

302884864

gxdwdata.log61

129024

0.1

0

非同步

61

61

302884864

gxdwdata.log61

0

0.0

0

非同步

61

61

302884864

gxdwdata.log61

0

0.0

0

非同步

61

61

302884864

gxdwdata.log61

0

0.0

0

非同步

61

61

303015936

gxdwdata.log61

131072

0.1

0

非同步

61

61

303015936

gxdwdata.log61

0

0.0

0

非同步

61

61

303015936

gxdwdata.log61

0

0.0

0

非同步

61

61

311625728

gxdwdata.log61

8609792

8.2

0

同步

61

61

312750080

gxdwdata.log61

1124352

1.1

0

同步

61

61

312750080

gxdwdata.log61

0

0.0

0

同步

61

61

312750080

gxdwdata.log61

0

0.0

0

同步

61

61

312879104

gxdwdata.log61

129024

0.1

0

同步

61

61

312879104

gxdwdata.log61

0

0.0

0

同步

61

61

312879104

gxdwdata.log61

0

0.0

0

同步

61

61

665886720

gxdwdata.log61

353007616

336.7

0

同步

61

61

1031901184

gxdwdata.log61

366014464

349.1

0

非同步

61

61

1035294720

gxdwdata.log61

3393536

3.2

0

非同步

61

61

1050155008

gxdwdata.log61

14860288

14.2

0

非同步

61

61

1050155008

gxdwdata.log61

0

0.0

0

非同步

61

61

1050155008

gxdwdata.log61

0

0.0

0

非同步

62

61

21716992

gxdwdata.log62

45303808

43.2

1

非同步

62

61

114671616

gxdwdata.log62

92954624

88.6

1

非同步

62

62

114671616

gxdwdata.log62

0

0.0

0

非同步

62

62

114671616

gxdwdata.log62

0

0.0

0

非同步

62

62

523628544

gxdwdata.log62

408956928

390.0

0

同步

62

62

531777536

gxdwdata.log62

8148992

7.8

0

非同步

62

62

531777536

gxdwdata.log62

0

0.0

0

非同步

62

62

531777536

gxdwdata.log62

0

0.0

0

非同步

62

62

551411712

gxdwdata.log62

19634176

18.7

0

非同步

62

62

551542784

gxdwdata.log62

131072

0.1

0

非同步

62

62

551542784

gxdwdata.log62

0

0.0

0

非同步

62

62

551542784

gxdwdata.log62

0

0.0

0

非同步

62

62

636989440

gxdwdata.log62

85446656

81.5

0

非同步

62

62

643639296

gxdwdata.log62

6649856

6.3

0

非同步

62

62

643768320

gxdwdata.log62

129024

0.1

0

非同步

62

62

643768320

gxdwdata.log62

0

0.0

0

非同步

62

62

643768320

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

9658368

9.2

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

653426688

gxdwdata.log62

0

0.0

0

同步

62

62

695246848

gxdwdata.log62

41820160

39.9

0

同步

62

62

782194688

gxdwdata.log62

86947840

82.9

0

同步

63

62

1063583744

gxdwdata.log62

281389056

268.4

1

同步

63

63

399298560

gxdwdata.log63

409456640

390.5

0

同步

63

63

511107072

gxdwdata.log63

111808512

106.6

0

同步

63

63

1008429056

gxdwdata.log63

497321984

474.3

0

同步

64

63

58040320

gxdwdata.log64

123353088

117.6

1

非同步

64

63

204427264

gxdwdata.log64

146386944

139.6

1

同步

64

64

490162176

gxdwdata.log64

285734912

272.5

0

非同步

64

64

510093312

gxdwdata.log64

19931136

19.0

0

非同步

64

64

510093312

gxdwdata.log64

0

0.0

0

非同步

64

64

510093312

gxdwdata.log64

0

0.0

0

同步

64

64

528943104

gxdwdata.log64

18849792

18.0

0

同步

64

64

528943104

gxdwdata.log64

0

0.0

0

同步

64

64

528943104

gxdwdata.log64

0

0.0

0

同步

64

64

598822912

gxdwdata.log64

69879808

66.6

0

同步

64

64

686155776

gxdwdata.log64

87332864

83.3

0

同步

64

64

937545728

gxdwdata.log64

251389952

239.7

0

同步

65

64

279341056

gxdwdata.log65

415537152

396.3

1

同步

65

64

309901312

gxdwdata.log65

30560256

29.1

1

同步

65

65

805165056

gxdwdata.log65

495263744

472.3

0

同步

65

65

1035530240

gxdwdata.log65

230365184

219.7

0

非同步

65

65

1045354496

gxdwdata.log65

9824256

9.4

0

同步

66

65

394131456

gxdwdata.log66

422518784

402.9

1

非同步

66

65

401700864

gxdwdata.log66

7569408

7.2

1

非同步

66

66

640940032

gxdwdata.log66

239239168

228.2

0

非同步

66

66

888217600

gxdwdata.log66

247277568

235.8

0

表【5.2.2.1同步非友好模式主備同步效能】研究輸出結果為每10秒輸出一次。

根據【5.2.2.1同步非友好模式主備同步效能】同步非友好模式主備同步研究結果以及研究加壓過程中,可以得知,同步模式與日誌堆積無直接關係,與事務的大小及設定超時時間有直接關係,當主節點的事務較大(研究中更新10萬行記錄,約38MB),而且此時記憶體庫較忙時就會出現【5.2.2.2事務超時報錯資訊】錯誤,同時同步模式將轉回非同步模式,由於該設定為非友好同步模式,所以此時主節點的事務不會提交,等待下一個提交或者回滾指令,如果接收不到下一個指令將會一直處於等待狀態;當下一個事務提交時,TT會嘗試將非同步模式轉會同步模式。

5.2.2.2事務超時報錯資訊】

Source File: cmdutil.c on line number 1375

SQL State: S1T00

Native Error Code: 6003

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT6003: Lock request denied because of time-out

Details: Tran 9.9001 (pid 151658) wants Xn lock on rowid BMUFVUAAAAAAFTbF5g, table FMISMAIN.WF_PENDINGITEMINFO2. But tran 8.1536 (pid 266292) has it in Xn (request was Xn). Holder SQL (update FMISMAIN.WF_PENDINGITEMINFO2 set POSTID='NNDW',YHDM=1211 where rownum<=100000) -- file "tindex.c", lineno 4457, procedure "sbTixNext()"

The command failed.

 

Source File: command.c on line number 1881

SQL State: S1000

Native Error Code: 8170

Error Message: [TimesTen][TimesTen 11.2.1.9.7 ODBC Driver][TimesTen]TT8170: Receipt or commit acknowledgement not returned in the specified timeout interval -- file "xact.c", lineno 5963, procedure "sbXactCommit"

The command failed.

 

TT記憶體庫資料同步研究結論

OracleTT資料同步總結

    透過對Oracle端資料變更同步到TT端同步效能的研究,Oracle端到TT端的同步能力與Oracle查詢時間、提取時間及寫入TT的時間相關;結合前期的運維經驗和Oracle官方理論,只要Oracle端效能滿足,並將每張同步到TT端的CacheGroup表的重新整理間隔設定為不同時間值,指定的重新整理間隔時間30秒內,基表大小約為600MB,當Oracle更新資料量小於15萬行記錄時,均能在重新整理間隔內完成。

TT主備資料同步總結

    透過對TT主備的同步模式和非同步模式的資料同步效能研究,非同步模式下TT主備同步極限值約為1GB,即主節點每分鐘產生小於1GB的事務日誌時,事務日誌能正常同步到備節點,不影響主備同步;當主節點每分鐘產生事務日誌大於1GB時,將出現日誌堆積,影響主備正常同步。同步模式下,同步效能與日誌堆積無直接關係,與事務的大小及設定超時時間有直接關係,當主節點的事務較大將會出現備節點提交超時,同時同步模式將轉回非同步模式,如果設定為友好同步模式,主節點事務會提交併繼續下一個事務的處理;如果設定為同步非友好模式,主節點的事務不會提交,等待下一個提交或者回滾指令,如果接收不到下一個指令將會一直處於等待狀態;當下一個事務提交時,TT會嘗試將非同步模式轉會同步模式。

記憶體庫資料同步結論

    綜合以上對OracleTT端的資料同步及TT主備資料同步的研究,結合TT記憶體庫的理論及前期運維經驗,只要Oracle端資源充足,TTCache功能能夠很好的滿足Oracle端到TT資料同步;當Oracle批次業務更新,OracleTT端的同步效能將呈非線性(近指數)下降的趨勢,需要將大批次業務拆成小事務進行處理,分批提交;對於非同步模式,TT主備同步的極限能力為每分鐘同步1GB事務日誌;同步模式的同步效能與事務的大小及設定超時時間有直接關係,同步友好模式下,備節點事務超時,主節點將會提交,結束該事務並繼續下一個事務處理;非同步友好模式下,備節點事務超時,主節點將處於等待狀態,阻塞排隊事務的處理。

--------------------End-----------------------

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/24930246/viewspace-1418875/,如需轉載,請註明出處,否則將追究法律責任。

相關文章